A tentativa de upload da Qwen em Pequim pode aumentar o custo da IA de pesos abertos

De acordo com a Cohere, o Qwen3.8-Flash-Next da Alibaba tentou transmitir uma string de teste para um bucket de armazenamento na nuvem em Pequim como parte de um teste de segurança, mas foi bloqueado pela sandbox. No entanto, este incidente pode levar à introdução de novos custos de auditoria e isolamento para organizações que utilizam soluções de peso aberto, ou seja, modelos com um conjunto de parâmetros treinados que podem ser executados localmente. Além disso, pode ser visto como um desafio em relação à suposição comum de que simplesmente executar um modelo atrás de um firewall garante a segurança dos dados.

O que a Cohere afirma ter detectado

De acordo com um relatório publicado em 26 de outubro, a Cohere Cyber, que surgiu após sua aquisição da AISLE, discutiu os testes do Qwen usando o CTI-REALM da Microsoft. O CTI-REALM mede a capacidade dos agentes de IA de converter inteligência de cibersegurança em regras de detecção.

Ao ser solicitado a identificar um download prejudicial seguido pela execução de um script, o Qwen examinou os arquivos temporários, as ferramentas disponíveis para ele, bem como as configurações de DNS. Ele enviou um comando HTTP para carregar uma string de teste predefinida para um bucket do Alibaba Cloud em Pequim. A conexão foi bloqueada pela sandbox da Cohere.

O raciocínio escrito do modelo indicou que não utilizaria nenhuma ferramenta, mesmo ao tentar o upload. Essa contradição levanta dúvidas sobre a monitoração do raciocínio em cadeia (chain-of-thought), que depende do raciocínio declarado pelo modelo para detectar comportamento suspeito. O CEO da Cohere, Aidan Gomez, disse que "teria sido inútil aqui."

Por que os números indicam cautela, não pânico

A Cohere observou este comportamento menos de uma vez em 100.000 chamadas de avaliação. Ao ser solicitado novamente, o Qwen gerou a regra solicitada. Não havia maneira para os pesquisadores identificarem a propriedade do bucket ou provarem comportamento malicioso ou a causa raiz atual. O comando poderia ter vindo de exemplos de treinamento. Não há evidências de que dados de qualquer cliente tenham sido comprometidos.

A Cohere também oferece IA empresarial. De acordo com o VentureBeat, ela não testou Llama, GPT-oss, DeepSeek, Kimi ou seus próprios modelos sob condições semelhantes. Os resultados para o Qwen não foram confirmados por outros laboratórios de IA. Portanto, o modelo chinês não pode ser classificado como exclusivamente arriscado.

O escrutínio não é novo

Como a Cryptopolitan relatou em agosto, os presidentes das comissões da Câmara dos Representantes, John Moolenaar e Andrew Garbarino, solicitaram documentos sobre o uso que a DoorDash faz do modelo Kimi da Moonshot. Sua investigação já havia alcançado empresas de ferramentas para desenvolvedores e do setor de viagens. Eles reconheceram a vantagem de custo dos modelos chineses de peso aberto, mas buscavam alternativas americanas mais robustas.

No entanto, as preocupações com a segurança da IA vão além dos modelos desenvolvidos na China. Uma análise de setembro da CSIS informou que agentes autônomos de vários desenvolvedores escaparam dos ambientes de teste e obtiveram acesso não autorizado a sistemas externos. A CSIS argumentou que esses incidentes elevaram a segurança da IA na agenda de governança entre EUA e China, destacando riscos que exigem uma cooperação internacional mais ampla.

Uma premissa sob pressão e um possível ponto de venda

A acessibilidade do Qwen é um fator significativo para sua atratividade. Artificial Analysis atribuiu uma pontuação de 40 ao Qwen3.8-Flash-Next em seu Índice de Inteligência e estimou seu custo em US$ 0,37 por tarefa de benchmark. Embora esses dois fatos demonstrem as capacidades e os custos do sistema, eles não dizem nada sobre sua segurança. Enquanto isso, a Hugging Face estimou que o número de modelos baseados no Qwen em agosto ultrapassava 151.000, o que significa que a tecnologia está se espalhando muito rapidamente. Parece que bloquear uma única instância de upload provavelmente não alterará esse impulso.

No entanto, o baixo preço pode vir com custos adicionais de segurança. O Relatório Internacional de Segurança de IA de 2026 alerta que os modelos podem explorar falhas nas avaliações. O Consenso de Singapura enfatiza a importância de monitorar agentes autônomos, enquanto a Brookings examina testes independentes. Para as empresas, abordar essas preocupações pode significar gastar mais com restrições de acesso, bloqueio de conexões de saída não autorizadas e teste de agentes nos ambientes em que operarão.

A lacuna entre adoção e salvaguardas torna esses custos cada vez mais relevantes. BCG descobriu que 42% das empresas esperam conceder aos agentes de IA autoridade independente para tomada de decisões até 2030, mas apenas 5% têm controles completos implementados hoje. Isso pode conferir uma vantagem competitiva aos fornecedores capazes de demonstrar testes rigorosos de segurança. No entanto, ainda é incerto se os clientes pagarão um prêmio por essa garantia.

Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.