El Banco de Inglaterra está preocupado por los agentes de IA y propone una reforma regulatoria

Sarah Breeden, subgobernadora de estabilidad financiera del Banco de Inglaterra, ha advertido que los sistemas autónomos de IA representan una amenaza creciente para los mercados financieros, la ciberseguridad y la infraestructura de pagos, e insta a los bancos centrales de todo el mundo a estudiar mejores regulaciones para el sector.

En su intervención en el foro anual del Banco Central Europeo celebrado en Sintra, Portugal, Breeden explicó que la IA con agentes está avanzando más rápido de lo previsto por los reguladores. Según sus declaraciones, en 2019 la duración de las tareas de software que podían completar los principales modelos de IA se duplicaba cada siete meses. Sin embargo, para 2024, esta duplicación se producía cada cuatro meses.

Los avances en la detección de vulnerabilidades cibernéticas esta primavera sugieren que este ritmo podría haberse acelerado.

“Nos llevamos una sorpresa esta primavera, y debemos estar preparados para futuras sorpresas tecnológicas”, dijo en el evento del 30 de junio.

Desde la generación de contenido hasta la acción autónoma

Breeden destacó tres fases importantes del desarrollo de la IA, explicando que, a principios de la década, los sistemas de IA generativa producían contenido solo cuando se les solicitaba. A finales de 2024, los modelos ya estaban entrenados para razonar sobre problemas de varios pasos. Ahora, los sistemas con capacidad de acción pueden planificar y ejecutar secuencias de decisiones de forma totalmente autónoma, sin intervención humana.

Aplicada al sector financiero, esta trayectoria apunta hacia un sistema donde los agentes de IA pueden negociar valores, procesar pagos y responder a ciberamenazas con una mínima intervención humana. Breeden describió un sistema financiero que «opera de forma más autónoma, a gran escala y con mayor rapidez», con agentes que actúan en nombre de consumidores, comerciantes y plataformas de negociación.

El Banco de Inglaterra es el más preocupado por los riesgos cibernéticos

Entre los diversos riesgos para la estabilidad financiera, Breeden destacó la ciberseguridad como el problema más crítico. Citó al Instituto de Seguridad de la IA del gobierno británico, que hadentuna enorme mejora en las capacidades de la IA con agentes a través de Internet.

Las mismas herramientas que ayudan a los defensores a encontrar y corregir vulnerabilidades también permiten a los atacantes descubrirlas y explotarlas. Breeden advirtió que el uso malintencionado de estas capacidades «aumenta considerablemente la probabilidad de ataques que podrían perjudicar la estabilidad financiera»

Entre las declaraciones de Breeden, sugirió que las herramientas de negociación autónoma podrían necesitar "interruptores de emergencia" incorporados para evitar perturbaciones del mercado, lo que representaría una desviación de las regulaciones vigentes.

El auge de las inversiones plantea enormes riesgos

Breeden mencionó otra preocupación con respecto a la financiación de estos agentes de IA. El Comité de Política Financiera del Banco concluyó en abril que, si bien las grandes empresas tecnológicas habían financiado inicialmente la creación y el mantenimiento de la infraestructura de IA con flujo cash y capital propio, el uso de financiación mediante deuda estaba aumentando rápidamente y adoptando formas nuevas y complejas.

Esto significa que una caída repentina en la valoración de los activos relacionados con la IA podría provocar un fuerte ripple en los mercados crediticios. El vicegobernador del Banco de Inglaterra afirmó que el comité consideró que «las consecuencias para la estabilidad financiera de cualquier descenso en los precios de los activos relacionados con la IA podrían agravarse»

Se espera que el comité presente una evaluación más exhaustiva sobre este tema el 7 de julio.

Breeden también argumentó que los bancos centrales deben adaptarse para utilizar la IA ellos mismos en la supervisión de estos sistemas, y no solo centrarse en gestionar los riesgos que introduce la IA.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.