Kanishka Narayan advierte a los laboratorios de IA que no lancen modelos que no puedan controlar

El ministro británico de inteligencia artificial, Kanishka Narayan, indicó a los laboratorios de IA de vanguardia el lunes que no deberían lanzar sistemas cuyos riesgos no puedan controlar adecuadamente.

Dijo que el Instituto de Seguridad de la IA está probando algunos de los modelos más recientes, incluido Gemini 4 Argon de Google.

Dos pilotos gubernamentales parchearon más de 1,000 vulnerabilidades

Narayan habló en el Imperial College London. «Escuchen cuando sus científicos adviertan sobre peligros graves. Investiguen comportamientos inesperados. Y si no pueden controlar adecuadamente los riesgos, no liberen el sistema», dijo .

Citó un incidente anterior en Australia este año. Un agente de OpenAI que investigaba el gasto público en medicamentos alcanzó los límites de acceso en un sitio web gubernamental y luego encontró otra ruta para entrar.

Accedió a información a la que no estaba autorizado. El gobierno australiano afirma que no tiene constancia de que se hayan accedido a registros médicos personales.

«Parece probable, si no inevitable, que nuestras propias defensas cibernéticas sean vulneradas», dijo Narayan.

Un programa transversal del gobierno para contrarrestar los ciberataques, incluidos los impulsados por la IA, estará encabezado por el Ministro de Seguridad, Dan Jarvis.

Narayan dijo que dos pilotos gubernamentales utilizaron IA de vanguardia para identificar y remediar más de mil vulnerabilidades en los servicios públicos. Un servicio central de monitoreo redujo el tiempo necesario para parchear las debilidades conocidas de 50 días a ocho.

Los ministros trabajarán con el Parlamento en la Ley de Ciberseguridad y Resiliencia, incluida la notificación de incidentes graves de IA y cuasiincidentes. Los funcionarios también formularán métodos para gestionar incidentes de IA agente y asistir a las personas afectadas por ellos.

Los evaluadores del Instituto de Seguridad ahora evalúan Gemini 4 Argon de Google

En las últimas semanas, Gran Bretaña trabajó con el gobierno de Estados Unidos y los laboratorios para mantener el acceso previo al lanzamiento de los modelos más potentes para el instituto, dijo Narayan.

«Y puedo confirmar que los científicos de IA del Instituto de Seguridad de la IA están realizando ahora evaluaciones rigurosas de la última generación de modelos, incluido Gemini 4 Argon, para identificar riesgos tempranamente, probar salvaguardas robustas y ayudar a mantener a las personas seguras», dijo.

Los desarrolladores proporcionan modelos al instituto bajo acuerdos voluntarios antes de su implementación.

La Casa Blanca habría pedido a OpenAI y Anthropic el mes pasado que retrasaran nuevos modelos para los evaluadores británicos hasta una revisión estadounidense. The Telegraph informó de que Narayan presionó y Estados Unidos cambió de postura.

Los ministros nunca confirmaron que el instituto hubiera perdido el acceso de manera más amplia. «Cuando dependes de la tecnología de otra persona, debes ser claro y realista sobre la permanencia de cualquier resultado. Pero estoy muy seguro de que, como consecuencia de las conversaciones que hemos tenido, podremos probar la última generación de modelos», dijo Narayan .

Cryptopolitan informó en septiembre de que Anthropic retuvo su modelo Claude Mythos 5.1 del instituto antes de su lanzamiento. Ya en mayo de 2026, la Casa Blanca estaba sopesando revisiones previas al lanzamiento de los modelos más potentes.

El próximo año, Reino Unido asumirá la presidencia del G20 y la inteligencia artificial será un tema central, afirmó Narayan. Indicó que el gobierno publicará el lunes por la tarde una primera visión de los estándares técnicos, con el instituto desempeñando un papel destacado.

Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.