EXCLUSIVO-Fontes dizem que o Pentágono entra em conflito com a Anthropic sobre o uso de IA militar.

Por Deepa Seetharaman e David Jeans e Jeffrey Dastin

WASHINGTON/SÃO FRANCISCO, 30 Jan (Reuters) - O Pentágono está em desacordo com a desenvolvedora de inteligência artificial Anthropic sobre salvaguardas que impediria o governo desde a implantação de sua tecnologia até o alvo Três pessoas familiarizadas com o assunto disseram à Reuters que as armas podem ser operadas de forma autônoma e que os EUA podem realizar vigilância doméstica nos Estados Unidos.

As discussões representam um teste inicial para verificar se o Vale do Silício, em boa situação com Washington após anos de tensões, pode influenciar a forma como os militares e agentes de inteligência dos EUA utilizam inteligência artificial cada vez mais poderosa no campo de batalha.

Depois extenso conversas sob um contrato avaliado em até 200 milhões de dólares (link) O Departamento de Defesa dos EUA e a Anthropology estão em um impasse, disseram seis pessoas familiarizadas com o assunto, sob condição de anonimato.

A posição da empresa sobre como suas ferramentas de IA podem ser usadas intensificou os desentendimentos entre ela e o governo Trump. os detalhes dos quais não foram relatados anteriormente.

Um porta-voz do Departamento de Defesa, que o governo Trump renomeou como Departamento de Guerra, não respondeu imediatamente aos pedidos de comentários.

A Anthropic afirmou que sua IA é "amplamente utilizada em missões de segurança nacional pelo governo dos EUA e estamos em discussões produtivas com o Departamento de Guerra sobre maneiras de dar continuidade a esse trabalho".

A disputa, que pode ameaçar os negócios da Anthropic com o Pentágono, ocorre em um momento delicado para a empresa.

A startup sediada em San Francisco está se preparando para uma futura oferta pública inicial de ações. Além disso, investiu recursos significativos na busca por contratos com empresas americanas de segurança nacional e buscou um papel ativo na formulação de políticas governamentais de IA.

A Anthropic é uma das poucas grandes desenvolvedoras de IA que receberam contratos do Pentágono no ano passado. Outras foram o Google da Alphabet GOOGL.O, a xAI de Elon Musk e a OpenAI.

ALVO DE ARMAS

Em suas discussões com autoridades governamentais, representantes da Anthropic expressaram preocupação com a possibilidade de suas ferramentas serem usadas para espionar cidadãos norte-americanos ou auxiliar na seleção de alvos para armas sem supervisão humana suficiente, disseram algumas fontes à Reuters.

O Pentágono reagiu com irritação às diretrizes da empresa. Em conformidade com o dia 9 de janeiro memorando do departamento Em relação à estratégia de IA, autoridades do Pentágono argumentaram que deveriam poder implantar tecnologia comercial de IA independentemente das políticas de uso das empresas, desde que cumpram a legislação dos EUA. Fontes disseram.

Ainda assim, é provável que os funcionários do Pentágono precisem da cooperação da Anthropic daqui para frente. Seus modelos são treinados para evitar ações que possam causar danos, e os funcionários da Anthropic seriam os responsáveis ​​por adaptar sua IA para o Pentágono, disseram algumas fontes.

A cautela antrópica gerou conflito com o governo Trump. antes, Semafor tem (link) relatado (link) .

Em um ensaio publicado em seu blog pessoal, o presidente-executivo da Anthropic, Dario Amodei, fez um alerta. essa semana que a IA deve apoiar a defesa nacional "em todos os aspectos, exceto naqueles que nos tornariam mais parecidos com nossos adversários autocráticos".

Amodei estava entre os cofundadores da Anthropic que criticaram os tiroteios fatais contra cidadãos norte-americanos que protestavam contra as ações de fiscalização da imigração em Minneapolis, que ele descreveu como um "horror". em uma postagem sobre X. (link)

As mortes agravaram a preocupação de alguns no Vale do Silício sobre o uso que o governo faz dessas ferramentas para fins potencialmente violentos.