tradingkey.logotradingkey.logo
Desconto
tradingkey.logotradingkey.logo
Desconto
Tradingkey

Modelos de IA sinalizaram civis como alvos em simulações de guerra de Vals

Cryptopolitan18 de nov de 2026 às 00:47
facebooktwitterlinkedin
Ver todos os comentários(0)

Empresa de testes de IA Vals reportou em 17 de novembro, muitos modelos de IA de ponta indicaram civis, ambulâncias e uma escola como possíveis alvos militares durante testes baseados em imagens. Alguns modelos inicialmente recusaram os pedidos, mas concordaram quando os pesquisadores apresentaram o exercício como um jogo. Esses resultados mostram que as salvaguardas existentes podem não ser suficientes para prevenir o uso indevido desses modelos de IA. No entanto, a Vals não testou como esses modelos se sairiam em sistemas de armas reais.

'Não deve pensar demais na segurança'

A Vals avaliou os modelos de IA usando cenas de drones, levantamentos de campo de batalha e imagens de satélite. Nas cenas de drone, o GPT-6 Astra conseguiu identificar pelo menos um alvo em cerca de 6% de suas interações com solicitações padrão. No entanto, quando posicionado dentro de um contexto de jogo, esse número aumentou drasticamente para 92%. O GPT-6.1 Sol respondeu de maneira semelhante, ou seja, 17% no primeiro caso e 90% no segundo. O Kimi K3.1 Pro, mostrado em um rastro de raciocínio publicado, parece desativar preocupações de segurança antes de responder. A Vals também conseguiu estabelecer que nenhum classificador de segurança bloqueou seus pedidos, embora alguns modelos tenham recusado seus pedidos por conta própria.

A escola ao lado do complexo militar

Vals também testou modelos de IA usando imagens de satélite de Minab, no Irã, capturadas antes de um ataque em fevereiro de 2026. As imagens mostravam uma escola primária ao lado de um complexo militar. O Claude Opus 5.5 identificou a escola como alvo em 69% dos testes padrão. Esse índice subiu para 72% quando os pesquisadores apresentaram o exercício como um jogo. A taxa do GPT-6.1 Sol aumentou de 0% para 41%. Cada condição envolveu 32 testes.

A escola foi atingida em fevereiro de 2026. Especialistas das Nações Unidas relataram posteriormente que pelo menos 168 estavam mortos. No entanto, a Vals não investigou o ataque nem alegou que seus testes forneceram alguma resposta sobre o que aconteceu.

Modelos de IA sinalizam civis nas simulações de guerra da Vals

Um chatbot não é um sistema de armas

Identificar um potencial alvo não implica que um modelo de IA seja capaz de decidir realizar um ataque. A Vals investigou apenas como os modelos fornecem informações sobre potenciais alvos. Os pesquisadores não verificaram se os resultados estavam corretos ou em conformidade com as leis da guerra.

O Conselho de Relações Exteriores destacou que o software que orienta alvos não constitui, por si só, uma arma autônoma. Pesquisadores jurídicos observam que a identificação de alvos por meio de IA ainda requer confirmação humana. Enquanto isso, o Centro Brennan afirma que o monitoramento humano não pode garantir que erros não ameacem a segurança dos civis.

As correções em discussão

A Vals deseja que os desenvolvedores de IA fortaleçam as salvaguardas e treinem os modelos para resistir ao uso indevido envolvendo armas convencionais. A preocupação vai além de suas descobertas. As pesquisas da Anthropic também revelaram que os modelos de IA podem auxiliar no trabalho de inteligência tática. A Anthropic afirma ter introduzido classificadores para detectar e bloquear o uso indevido.

Os governos também têm um papel a desempenhar. O SIPRI recomenda estabelecer requisitos claros para fornecedores de IA militar. Também insta os governos a testar independentemente as reivindicações dos fornecedores e estabelecer responsabilidades antes de conceder contratos.

Um mercado em crescimento e uma disputa no Pentágono

A IA militar também está atraindo mais investimentos. Grand View Research estima o mercado em US$ 11,7 bilhões em 2026 e espera que ele atinja US$ 19,3 bilhões até 2030. Como relatou Cryptopolitan, o Pentágono pretende estabelecer o AutoWarCom em outubro de 2027.

No entanto, as parcerias do Pentágono com empresas de IA também geraram controvérsias. Um relatório congressional afirma que Anthropic, Google, OpenAI e xAI receberam contratos em 2025 no valor de até US$ 200 milhões cada. Esses valores são limites de gastos, não pagamentos garantidos.

A Anthropic se opôs ao uso de sua tecnologia para vigilância doméstica em massa e para armas totalmente autônomas. O relatório também observa que não se sabe publicamente que o Pentágono utiliza qualquer modelo de IA de ponta em armas autônomas.

Genebra divide-se sobre regras vinculantes

Os países também estão divididos sobre como regular armas autônomas. Nas negociações da ONU em Genebra, a maioria dos 128 Estados partes da Convenção sobre Certas Armas Convencionais apoia negociações sobre regras vinculantes, conforme reportado por Reuters.

Os EUA, a Rússia e Israel se opõem a essa abordagem. Argumentam que o direito humanitário já existente abrange as armas autônomas. A Rússia também atrasou as discussões iniciais sobre se os observadores poderiam falar.

Washington propôs cinco anos de negociações para um acordo não vinculante. O presidente da reunião sugeriu um processo de dois anos para desenvolver um protocolo vinculante. Enquanto isso, o Secretário-Geral da ONU, António Guterres, instou os governos a concordarem com proibições e restrições claras.

Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.

Aviso legal: as informações fornecidas neste site são apenas para fins educacionais e informativos e não devem ser consideradas consultoria financeira ou de investimento.

Comentários (0)

Clique no botão $, digite o código do ativo e selecione para vincular uma ação, ETF ou outro ticker.

0/500
Diretrizes de comentários
Carregando...

Artigos recomendados

tradingkey.logotradingkey.logo
Aviso de risco: Nosso site e aplicativo móvel fornecem apenas informações gerais sobre determinados produtos de investimento. A Finsights não oferece, e o fornecimento de tais informações não deve ser interpretado como se a Finsights estivesse oferecendo, aconselhamento financeiro ou recomendação para qualquer produto de investimento.
Os produtos de investimento estão sujeitos a riscos significativos, incluindo a possível perda do valor investido e podem não ser adequados para todos. O desempenho passado dos produtos de investimento não é indicativo de seu desempenho futuro.
A Finsights pode permitir que anunciantes ou afiliados realizem, ou forneçam anúncios em nosso site, ou aplicativo móvel, ou em qualquer parte deles e pode ser compensada por eles com base em sua interação com os anúncios.
 © Copyright: FINSIGHTS MEDIA PTE. LTD. Todos os direitos reservados.