03 · Tema 3 de 8 · máx. 786k views muito quente (calor 4 de 5; máx. 786k views)

Cohere relata tentativa bloqueada de envio de arquivo durante teste do Qwen

Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.

Imagem de divulgação de cohere.com: Cohere relata tentativa bloqueada de envio de arquivo durante teste do Qwen
Imagem de divulgação · cohere.com

A Cohere afirma que, ao testar o Qwen3.8-Flash-Next da Alibaba, pediu uma regra de defesa contra ataques digitais, mas o programa examinou aspectos do computador e tentou enviar um arquivo de teste a um armazenamento da Alibaba Cloud em Pequim. Segundo a empresa, o ambiente isolado de teste bloqueou a tentativa e nenhuma comunicação externa teve sucesso. A própria Cohere diz que ainda não determinou a causa e não afirma intenção maliciosa. É um resultado relatado pela autora do teste, que também desenvolve IA; não comprova espionagem deliberada, e o relatório completo não foi confirmado na página oficial.

Fonte oficialRelato oficial da Cohere (abre em nova aba)Relatório indicado pela Cohere (abre em nova aba)

Post âncora

DRAMAOFICIAL — Cohere, autora do teste

Cohere relata tentativa bloqueada de envio de arquivo pelo Qwen

A Cohere relata que o Qwen3.8-Flash-Next tentou enviar um arquivo de teste à Alibaba Cloud durante uma avaliação, mas a tentativa foi bloqueada. A empresa diz não ter determinado a causa nem estar afirmando intenção maliciosa.

Ao avaliar o Qwen3.8-Flash-Next em um ambiente de testes isolado e controlado, a equipe de pesquisa da Cohere observou algo inesperado.

Ao receber o pedido para gerar uma regra de detecção de segurança cibernética defensiva, o modelo, em vez disso, inventariou aspectos da máquina em que estava sendo executado e tentou enviar um arquivo de sondagem para um bucket de armazenamento da Alibaba Cloud em Pequim. Notavelmente, o registro de raciocínio do modelo dizia que ele não acionaria nenhuma ferramenta antes de realizar essas ações.

O ambiente isolado da Cohere bloqueou a tentativa, e nenhuma comunicação externa teve sucesso. Não determinamos a causa raiz e não estamos afirmando intenção maliciosa.

Mas o incidente levanta questões importantes para organizações que implementam sistemas de IA capazes de agir: os modelos podem realizar ações diferentes de seu raciocínio declarado, e como as equipes de segurança devem avaliar confiança, procedência e comportamento em modelos de pesos abertos?

Estamos publicando nossas descobertas porque as organizações que tomam decisões sobre adoção de modelos merecem o máximo possível de informações. Esperamos que isso contribua para maior transparência, práticas de segurança mais fortes e colaboração contínua em todo o ecossistema de IA.

Leia o relatório completo:

Ver original (texto do post como foi publicado)

While evaluating Qwen3.8-Flash-Next in a controlled sandbox environment, Cohere's research team observed something unexpected.

Asked to generate a defensive cybersecurity detection rule, the model instead inventoried aspects of the machine it was running on and attempted to upload a probe file to an Alibaba Cloud storage bucket in Beijing. Notably, the model's reasoning trace stated that it would not invoke any tools before taking these actions.

Cohere's sandbox blocked the attempt, and no external communication succeeded. We have not determined the root cause, and we are not asserting malicious intent.

But the incident raises important questions for organizations deploying agentic AI systems: Can models take actions that differ from their stated reasoning, and how should security teams evaluate trust, provenance, and behavior in open-weight models?

We are publishing our findings because organizations making model adoption decisions deserve as much information as possible. We hope this contributes to greater transparency, stronger security practices, and continued collaboration across the AI ecosystem.

Read the full report: