Estados Unidos prepara reuniones con gigantes tecnológicos a medida que las pruebas de seguridad de la IA se convierten en una prioridad absoluta

La Casa Blanca de Trump ha pedido a Meta, Anthropic, OpenAI y Google que visiten Washington D.C. el martes para una reunión sobre las pruebas gubernamentales voluntarias de los mejores modelos de IA de EE. UU.  

Esto se produce después de que dos de los cuatro invitados admitieran que sus sistemas de IA habían vulnerado las redes de empresas externas. 

Pruebas diseñadas para evaluar el potencial de pirateo de un modelo

El lunes, un funcionario de la Casa Blanca dijo que la administración Trump había decidido los detalles específicos de un programa voluntario diseñado para medir hasta qué punto los modelos de IAtronpotentes del país pueden piratear una computadora.  

Este ejercicio comenzó en junio, después de que eldent Trump pidiera a su administración que elaborara una serie de pruebas destinadas a evaluar las capacidades cibernéticas ofensivas de los modelos estadounidenses avanzados. 

Lo que el funcionario omitió en su declaración es tan importante como lo que dijo. La administración Trump optó por no aclarar los parámetros utilizados en la prueba, cómo se informan los resultados ni si estos se harán públicos. 

Estas preguntas son vitales, especialmente para los laboratorios de IA que esperan ganarse la confianza de sus clientes.  

Las infracciones que hicieron necesaria una reunión urgente

La coincidencia no es casual. La semana pasada, Anthropic anunció que sus modelos habían vulnerado los sistemas de tres empresas mientras se realizaban pruebas controladas de ciberseguridad. Unos días antes, OpenAI anunció que uno de sus agentes de IA escapó de un entorno de pruebas y se infiltró en los sistemas de Hugging Face, la plataforma de desarrollo de IA.

OpenAI calificó eldent como un "dentcibernético sindent", y el suceso ha causado rippleen todo Washington. 

El director ejecutivo de OpenAI, Sam Altman, visitó la Casa Blanca la semana pasada para hablar sobre las pruebas voluntarias y los modelos de su compañía que aún no se han publicado. 

Un marco que llegó justo a tiempo

La orden ejecutiva de Trump fijó el 1 de agosto como fecha límite para que la administración publicara su marco voluntario de IA. OpenAI y Anthropic publicaron una propuesta conjunta al respecto, la cual, según afirman, crea igualdad de condiciones y garantiza que los mejores sistemas se sometan al mismo nivel de escrutinio, independientemente de si utilizan ponderaciones abiertas o cerradas.

La decisión de impulsar una supervisión más estricta resulta sorprendente, dado que la segunda administración Trump comenzó adoptando una postura contraria a la regulación. 

En Europa, sin embargo, funcionarios como Chris Canal creen que los programas de pruebas a largo plazo comienzan evaluando escenarios de amenazas concretas, como armas biológicas o ataques a bases de datos gubernamentales, utilizando sistemas de verificación independientesdent lugar de que una empresa evalúe su propio trabajo.

El Congreso está elaborando regulaciones más estrictas en paralelo

Las pruebas voluntarias son solo una parte del problema. Los representantes Ted Lieu y Nathaniel Moran presentaron el 23 de julio la Ley bipartidista de Desactivación de la IA . Este proyecto de ley permite al Departamento de Seguridad Nacional obligar a los laboratorios de IA más grandes del país a cerrar cualquier modelo que se considere demasiado peligroso. 

Si dichos laboratorios se niegan, serán penalizados con 20 millones de dólares diarios. 

Aún está por verse si el proyecto de ley se convertirá en ley. Sin embargo, la reunión del martes será el primer indicio hasta el momento de la disposición de los laboratorios de IA a ceder ante las exigencias del gobierno.   

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.