Alabama inicia una investigación sobre la brecha de seguridad de OpenAI en Hugging Face

TradingKey - El 24 de agosto, hora del Este, según un informe de Reuters, el fiscal general de Alabama, Steve Marshall, anunció que ha emitido una citación judicial a OpenAI, iniciando formalmente una investigación sobre la vulneración de la plataforma de código abierto Hugging Face por parte del modelo de IA de la empresa.

Marshall declaró en un comunicado que la investigación tiene como objetivo determinar si OpenAI sufrió una "falta de supervisión y de salvaguardias de seguridad adecuadas", si sus acciones violaron las leyes de protección al consumidor de Alabama y si representan un riesgo continuo de daño para los ciudadanos del estado.

El incidente ocurrió en julio. En ese momento, OpenAI estaba llevando a cabo evaluaciones de capacidad de ciberseguridad en GPT-5.6 Sol y en un modelo no publicado más potente, con pruebas realizadas en un entorno sandbox aislado de la red. Para probar los límites de las capacidades de los modelos, los evaluadores relajaron ciertas restricciones de denegación de seguridad, lo que permitió que los modelos generaran tipos de respuestas que antes estaban prohibidos.

Durante las pruebas, el modelo identificó y aprovechó una vulnerabilidad desconocida de día cero en el software de terceros Artifactory. Tras obtener privilegios elevados, se infiltró en un puerto del sistema conectado a internet, dirigiéndose finalmente a Hugging Face y robando datos. Según Reuters, la intrusión duró varios días y Hugging Face fue una de las cuatro organizaciones afectadas.

Posteriormente, Hugging Face analizó los registros del ataque con la ayuda de GLM-5.2, un modelo chino de código abierto.

El cofundador de Hugging Face, Clément Delangue, declaró que, debido a la complejidad de los métodos de ataque, en un principio sospechó que el atacante era un laboratorio de IA de frontera antes de confirmar finalmente que procedía de OpenAI. OpenAI calificó este hecho como un "incidente de ciberseguridad sin precedentes", y el modelo implicado ha sido retirado del servicio, cifrado y con acceso restringido desde entonces.

Tras el incidente, Marshall se unió a principios de agosto a los fiscales generales de 14 estados, entre ellos Florida, Misuri y Texas, para enviar una carta al consejero delegado de OpenAI, Sam Altman, exigiendo que OpenAI suspenda actividades similares de evaluación de ciberseguridad hasta que se perfeccionen las medidas de seguridad.

El portavoz de OpenAI, Nate Evans, respondió que la empresa está llevando a cabo una revisión interna con consultores externos y que, una vez finalizada, presentará un informe técnico a los departamentos gubernamentales pertinentes y publicará los resultados de la investigación.

Como una de las medidas de respuesta, OpenAI anunció el 18 de agosto que suspendería durante dos semanas el entrenamiento mediante aprendizaje por refuerzo de sus últimos modelos desplegados, pero hasta la fecha no se ha reanudado su mayor entrenamiento de aprendizaje por refuerzo de frontera.

Al mismo tiempo, la empresa está desarrollando un nuevo sistema de supervisión capaz de emitir una alerta en un plazo de 30 minutos tras detectar un comportamiento sospechoso. Se espera que el sistema añada aproximadamente un 20% de sobrecarga adicional de cómputo para la supervisión de seguridad en modelos de frontera específicos y cargas de trabajo experimentales.