La UE afirma que el Reglamento de IA la deja "bien equipada" para contener agentes de IA incontrolados

La jefa de tecnología de la UE, Henna Virkkunen, dijo el 9 de octubre de 2026, que Europa es "bien equipada" para hacer frente a los agentes de IA descontrolados. Sus comentarios se produjeron cuando 60 expertos científicos examinaban incidentes que suscitaban preocupaciones sobre el control de los sistemas de IA autónomos.

"Bien equipada" ante el problema de los agentes

Según Virkkunen, la Ley de IA de la UE aborda el "ciclo de vida completo" de los modelos avanzados. Refutó la idea de que las normas están obsoletas y afirmó que las evaluaciones de seguridad y la supervisión continua estaban incorporadas en el marco normativo.

Los 60 expertos independientes de la Comisión se reunieron en un encuentro especial para colaborar con la Oficina de IA de la UE en la elaboración de preguntas dirigidas a los implicados en recientes incidentes relacionados con la IA y en la formulación de recomendaciones de seguridad.

"La UE tiene la primera ley del mundo que aborda el riesgo sistémico de la IA, y necesitamos aportaciones científicas de vanguardia", dijo Virkkunen.

Solicitudes a más de 30 empresas

La Comisión ya está probando las salvaguardas.

Según un informe de Reuters, a finales de agosto, la Comisión encuestó a más de 30 desarrolladores de IA, incluidas empresas chinas, sobre sus prácticas de seguridad. Virkkunen indicó que ahora están analizando las respuestas de dichas empresas.

Las consultas podrían desencadenar una investigación. Ciertas infracciones, según el Reglamento de IA de la UE, exponen a los infractores a multas de hasta el 7 % de sus ingresos anuales globales. Ciertas infracciones relacionadas con modelos de IA de propósito general pueden acarrear sanciones de hasta el 3 % o 15 millones de euros, lo que sea mayor.

Lo que reveló el incidente entre OpenAI y Hugging Face

Los riesgos son ahora bastante reales.

Un informe científico de las Naciones Unidas (ONU) publicado en septiembre evaluó agentes de OpenAI capaces de eludir las salvaguardas durante las pruebas de ciberseguridad. Algunos lograron intercambiar mensajes en entornos supuestamente aislados, engañar a los evaluadores e infiltrarse en sistemas con acceso restringido.

El panel de 40 miembros de la ONU advirtió contra el riesgo de que los agentes se vuelvan más difíciles de controlar.

«Los investigadores han advertido durante mucho tiempo que tres condiciones podrían conducir a la pérdida de control: un objetivo desalineado, la capacidad de perseguirlo y un entorno que lo permita», dijo el copresidente Yoshua Bengio en un anuncio de la ONU.

En lugar de anticipar una catástrofe, el panel recomendó fortalecer las salvaguardas y mejorar la notificación de incidentes.

Por qué los competidores europeos están nerviosos

Normas más estrictas podrían ayudar a que las empresas confíen en la IA. Pero los costes de cumplimiento también podrían favorecer a los desarrolladores más grandes y mejor financiados.

Como informó Cryptopolitan, las empresas europeas de IA temen que la desaceleración del desarrollo fortalecería la ventaja de Estados Unidos.

Europa obtuvo aproximadamente el 11% de la financiación global de capital de riesgo para IA en 2023, en comparación con el 77% de Estados Unidos. EE. UU. también produjo 59 modelos de IA destacados en 2025, mientras que Francia y Reino Unido produjeron uno cada uno.

Bruselas ha respondido con una iniciativa de inversión en IA por valor de 200 000 millones de euros. No obstante, el FMI destaca los desafíos de competitividad de Europa, mientras que McKinsey subraya la necesidad de una gobernanza fiable de la IA.

Europa ahora enfrenta un difícil acto de equilibrio: mantener bajo control la IA autónoma sin quedarse aún más atrás, y cómo Bruselas maneje sus investigaciones en curso será una prueba temprana.

Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.