EXCLUSIVO-Fontes dizem que o Pentágono está pressionando empresas de IA a expandirem suas redes classificadas.

Por David Jeans e Deepa Seetharaman

12 Fev (Reuters) - O Pentágono está pressionando as principais empresas de IA, incluindo a OpenAI e a Anthropic, para que disponibilizem suas ferramentas de inteligência artificial em redes classificadas, sem muitas das restrições padrão que essas empresas aplicam aos usuários.

Durante um evento na Casa Branca na terça-feira, o diretor de tecnologia do Pentágono, Emil Michael, disse a executivos de tecnologia que os militares pretendem disponibilizar os modelos de IA tanto em domínios não classificados quanto classificados, de acordo com duas pessoas familiarizadas com o assunto.

O Pentágono está "implementando capacidades de IA de ponta em todos os níveis de classificação", disse à Reuters um funcionário que pediu anonimato.

Trata-se do mais recente desenvolvimento nas negociações em curso entre o Pentágono e as principais empresas de IA generativa sobre como os EUA usarão a IA em um futuro campo de batalha já dominado por enxames de drones autônomos, robôs e ataques cibernéticos.

Os comentários de Michael também devem intensificar um debate já acirrado sobre o desejo dos militares de usar IA sem restrições e a capacidade das empresas de tecnologia de estabelecer limites sobre como suas ferramentas são utilizadas. (link)

Muitas empresas de IA estão desenvolvendo ferramentas personalizadas para as forças armadas dos EUA, a maioria das quais está disponível apenas em redes não classificadas, normalmente usadas para administração militar. Apenas uma empresa de IA — a Anthropic — está disponível em ambientes classificados por meio de terceiros, mas o governo ainda está sujeito às políticas de uso da empresa.

Redes classificadas são usadas para lidar com uma ampla gama de trabalhos mais sensíveis, que podem incluir planejamento de missões ou direcionamento de armas. A Reuters não conseguiu determinar como ou quando o Pentágono planejava implantar chatbots de IA em redes classificadas.

Autoridades militares esperam aproveitar o poder da IA ​​para sintetizar informações e auxiliar na tomada de decisões. Mas, embora essas ferramentas sejam poderosas, podem cometer erros e até mesmo inventar informações que, à primeira vista, podem parecer plausíveis. Tais erros em ambientes classificados podem ter consequências fatais, afirmam pesquisadores de IA.

Empresas de IA têm buscado minimizar as desvantagens de seus produtos, incorporando salvaguardas em seus modelos e solicitando que os clientes sigam certas diretrizes. No entanto, autoridades do Pentágono se mostraram indignadas com tais restrições, argumentando que deveriam poder implantar ferramentas comerciais de IA, desde que cumpram a legislação norte-americana.

Esta semana, a OpenAI fechou um acordo com o Pentágono para que os militares pudessem usar suas ferramentas, incluindo o ChatGPT, em uma rede não classificada chamada http://genai.mil/, que foi implementado para mais de 3 milhões de funcionários do Departamento de Defesa. Como parte do acordo, a OpenAI concordou em remover muitas de suas restrições de usuário típicas, embora algumas salvaguardas permaneçam.

O Google, da Alphabet (GOOGL.O), e a xAI já fecharam acordos semelhantes anteriormente.

Em comunicado, a OpenAI afirmou que o acordo desta semana se refere especificamente ao uso não classificado por meio do genai.mil. (link) Segundo um porta-voz, expandir esse acordo exigiria um novo acordo ou uma modificação do anterior.

Discussões semelhantes entre a Anthropic, concorrente da OpenAI, e o Pentágono foram significativamente mais controversas, conforme relatado anteriormente pela Reuters. (link) Executivos da Anthropic informaram a oficiais militares que não desejam que sua tecnologia seja usada para direcionar armas de forma autônoma e realizar vigilância doméstica nos EUA. Os produtos da Anthropic incluem um chatbot chamado Claude.

“A Anthropic está comprometida em proteger a liderança dos Estados Unidos em IA e em ajudar o governo norte-americano a combater ameaças estrangeiras, dando aos nossos militares acesso às capacidades de IA mais avançadas”, disse um porta-voz da Anthropic. “Claude já é amplamente utilizado em missões de segurança nacional pelo governo norte-americano e estamos em discussões produtivas com o Departamento de Guerra sobre maneiras de dar continuidade a esse trabalho.”

O presidente Donald Trump ordenou que o Departamento de Defesa mude seu nome para Departamento de Guerra. (link), uma mudança que exigirá ação do Congresso.