EXCLUSIVA-El Pentágono se enfrenta a Anthropic por el uso militar de la IA - fuentes

Por Deepa Seetharaman, David Jeans y Jeffrey Dastin

WASHINGTON/SAN FRANCISCO, 29 ene (Reuters) - El Pentágono y el desarrollador de inteligencia artificial Anthropic están en desacuerdo sobre la posible eliminación de las salvaguardias que podrían permitir al gobierno utilizar su tecnología para dirigir armas de forma autónoma y llevar a cabo la vigilancia nacional de EE.UU., tres personas familiarizadas con el asunto dijeron a Reuters.

Las conversaciones representan una primera prueba de si Silicon Valley, que goza de la simpatía de Washington tras años de tensiones, puede influir en la forma en que el ejército y los servicios de inteligencia estadounidenses despliegan una inteligencia artificial cada vez más potente en el campo de batalla.

Tras semanas de conversaciones en el marco de un contrato por valor de hasta 200 millones de dólares (link), el Departamento de Defensa de EE.UU. y Anthropic se encuentran en un punto muerto, según declararon seis personas familiarizadas con el asunto, bajo condición de anonimato. La posición de la compañía sobre cómo se pueden utilizar sus herramientas de IA ha intensificado los desacuerdos entre ella y la Administración Trump, de cuyos detalles no se había informado previamente.

En línea con un memorando del Departamento de Defensa del 9 de enero sobre su estrategia de IA, los funcionarios del Pentágono han argumentado que deberían poder desplegar tecnología comercial de IA independientemente de las políticas de uso de las empresas, siempre que cumplan con la ley estadounidense, dijeron las personas.

Un portavoz del departamento, que la administración Trump rebautizó como Departamento de Guerra, no respondió de inmediato a las solicitudes de comentarios.

En un comunicado, Anthropic dijo que su IA es "ampliamente utilizada para misiones de seguridad nacional por el gobierno de Estados Unidos y estamos en conversaciones productivas con el Departamento de Guerra sobre las formas de continuar ese trabajo."

Anthropic es uno de los pocos grandes desarrolladores de IA a los que el Pentágono adjudicó contratos el año pasado. Otros fueron Alphabet's Google GOOGL.O, Elon Musk's xAI y OpenAI.

Anthropic se ha centrado durante mucho tiempo en la seguridad nacional de Estados Unidos al mismo tiempo que sus ejecutivos han tratado de delinear un uso responsable. Esto ha provocado conflictos con la administración Trump, como había informado previamente Semafor (link) (link) .

En un ensayo en su blog personal esta semana, el CEO de Anthropic, Dario Amodei, advirtió que la IA debería apoyar la defensa nacional "en todos los sentidos excepto en aquellos que nos harían más parecidos a nuestros adversarios autocráticos."

Amodei fue uno de los cofundadores de Anthropic que criticó los tiroteos mortales de ciudadanos estadounidenses que protestaban contra las medidas de control de la inmigración en Minneapolis, que describió como un "horror" en un post en X. (link) Las muertes han agravado la preocupación entre algunos en Silicon Valley sobre el uso gubernamental de sus herramientas para la violencia potencial.