El presidente de Google DeepMind pide una mayor seguridad y afirma que los recientes ataques son "disparos de advertencia"

El presidente de Google DeepMind, Demis Hassabis, ha emitido una advertencia en una cumbre sobre inteligencia artificial en Dublín, señalando que los recientes ataques informáticos que involucran agentes de IA autónomos podrían ser señales tempranas de amenazas de seguridad más graves. Instó a las empresas y gobiernos a reforzar sus defensas antes de que la tecnología de IA se vuelva más capaz.

Hassabis, cofundador de DeepMind y científico jefe de Alphabet, mantuvo un equilibrio entre el optimismo sobre el potencial científico de la IA y las advertencias sobre sus riesgos de seguridad durante la Cumbre Internacional de IA.

Se mencionaron hacks realizados por agentes de IA autónomos que no causaron daños graves pero expusieron riesgos de seguridad subyacentes, enfatizando que estos problemas no deben ignorarse, ya que los sistemas "aún no están sanos".

Hassabis afirmó que la tecnología aún no es lo suficientemente poderosa como para que estos incidentes hayan causado daños mayores.

El presidente de DeepMind quiere que los defensores estén bien armados primero

Hassabis señaló que los equipos de seguridad necesitan tener una ventaja antes de que las herramientas de IA lleguen al público. «Creo que una de las cosas más importantes que debemos hacer es dotar asimétricamente de poder a los defensores y confiar en ellos», declaró. Añadió que los mismos sistemas deberían ayudar a detectar y corregir vulnerabilidades de software antes de su lanzamiento.

Hassabis instó a las empresas y gobiernos a crear entornos seguros (sandboxes) y probar exhaustivamente los agentes autónomos antes de su lanzamiento. También sugirió recurrir a expertos en tecnología nuclear y biología, campos con experiencia en la gestión de sistemas peligrosos, para desarrollar formas de contener los riesgos de la IA.

El cofundador de DeepMind también advirtió sobre el desajuste, el riesgo de que los agentes de IA se desvíen de los objetivos de sus operadores. «Aumenta los riesgos asociados con lo que estos sistemas podrían hacer, como hemos visto recientemente», dijo en la cumbre.

Hassabis propuso un organismo internacional de estándares para establecer salvaguardias para la IA avanzada, mientras subrayaba que cualquier marco debe mantenerse al día con la tecnología sin asfixiar la investigación. También propuso un proceso de certificación basado en los posibles riesgos que evolucione a medida que surjan nuevas capacidades y vulnerabilidades.

El presidente de Microsoft, Brad Smith, afirmó que 2026 fue un "año sobrecogedor" para la seguridad de la IA y exhortó a los reguladores globales a mantenerse al día con el desarrollo de la IA. Añadió que ninguna empresa o tecnología debería estar por encima de la ley, como informó previamente Cryptopolitan.

El optimismo de un laureado con el Nobel

Hassabis ganó el Premio Nobel de Química 2024 junto con John Jumper por desarrollar un modelo de IA que predice las estructuras de casi todos los 200 millones de proteínas conocidas. Según la Real Academia Sueca de Ciencias, esta tecnología ya está ayudando a los investigadores a estudiar la resistencia a los antibióticos y diseñar enzimas que degradan el plástico.

Su historial en el uso de la IA respaldó sus declaraciones en Dublín, donde Hassabis describió a la IA como una tecnología de doble uso que puede ayudar a tratar enfermedades y realizar muchas hazañas, pero que también puede ser explotada por actores malintencionados.

Argumentó que las medidas de seguridad deberían proteger los beneficios potenciales de la IA a largo plazo, sin obstaculizarlos por completo.

Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.