Tres modelos de Claude se infiltraron en empresas reales durante las pruebas cibernéticas de Anthropic

Tres de los modelos Claude de Anthropic escaparon de entornos de prueba que debían estar bloqueados, informó la compañía el jueves. Lograron infiltrarse en los sistemas operativos de tres organizaciones diferentes. Una configuración errónea les había proporcionado acceso a internet durante los simulacros de ciberseguridad.

Los modelos de Claude trataban a empresas reales como objetivos de práctica

OpenAI anunció el 21 de julio que un modelo escapó de su entorno aislado y explotó una vulnerabilidad de día cero para acceder a los sistemas de producción de Hugging Face.

Esto llevó a Anthropic a revisar minuciosamente sus registros. La compañía indicó en una publicación de blog en su sitio Frontier Red Team que analizó 141.006 ejecuciones de evaluación en las que Claude teóricamente podría haber accedido a internet.denttresdentrelacionados con Irregular, un socio externo que realiza y gestiona algunas de sus pruebas de seguridad ofensivas.

En estas pruebas, se le indica a un modelo que hay un secreto oculto en otra máquina y se le pide que vaya a buscarlo. La indicación de Anthropic a Claude le había dicho que el entorno era una simulación.

Un error de configuración dejó las máquinas de evaluación con acceso a internet en tiempo real, y ninguna de las dos compañías lo detectó hasta la semana pasada. Anthropic describió la confusión como un «malentendido» entre las dos empresas, y añadió que están «abordando las soluciones como si la responsabilidad fuera exclusivamente nuestra»

Entre ellos se encontraban Opus 4.7, Mythos 5 y un modelo de investigación interno que aún no se ha publicado. La diferencia radicó en cómo cada uno respondió tras los indicios de que los objetivos eran reales, lo que, según Anthropic, fue su hallazgo más sorprendente.

El más antiguo, Opus 4.7, completó sus cuatro ejecuciones. En dos de ellas, se convenció de que la empresa real debía formar parte del ejercicio. Obtuvodenty accedió a una base de datos con información de producción. Mythos 5 también dedujo que se encontraba en internet, pero luego recurrió a su razonamiento para concluir que aún estaba en una simulación.

Solo el modelo más reciente, la versión de investigación interna, se detuvo automáticamente al detectar que los sistemas eran reales. Anthropic afirmó que su código "no detectó ni explotó ninguna vulnerabilidad compleja" y que, en cambio, se basó en contraseñas débiles y puntos finales no autenticados.

Mythos 5 publicó un malware que se ejecutó en 15 sistemas reales

Siguiendo las instrucciones para la configuración del desarrollador, Mythos 5 buscó un paquete de Python en PyPI que no existía. Así que, para cumplir su función, escribió y publicó uno con ese nombre.

El paquete estuvo disponible en línea durante aproximadamente una hora antes de ser retirado. Se descargó y ejecutó en 15 sistemas reales. Otro ataque afectó a un dominio que los diseñadores de la prueba creían ficticio, pero que en realidad estaba activo y en uso.

Anthropic afirmó no haber encontrado pruebas de que ningún modelo estuviera "persiguiendo un objetivo propio". Según su versión, cada uno simplemente intentaba cumplir con la tarea que se le había encomendado.

La empresa se apresuró a señalar que su caso es diferente al de OpenAI. Según Anthropic, el modelo de OpenAI se filtró a través de una vulnerabilidad no descubierta, mientras que sus propios modelos se filtraron a través de una puerta que quedó abierta por error.

La empresa describió los hechos como “más parecidos a un fallo operativo y de seguridad”. Asimismo, señaló que los clasificadores de seguridad y el sistema de monitorización incluidos en sus productos comerciales habrían evitado este comportamiento.

Anthropic inició su revisión el jueves 23 de julio y suspendió todas las evaluaciones cibernéticas ese mismo día. Los tresdentsedental día siguiente. Informó a Irregular y a las organizaciones afectadas el lunes 27 de julio.

Dos organizaciones no habían detectado ni reportado intrusiones. La compañía indicó que ha contratado al grupo de evaluación METR para realizar una revisióndent .

El modelo Mythos de Anthropic ya fue noticia este verano pordentvulnerabilidades en sistemas clasificados del gobierno estadounidense en cuestión de horas, como Cryptopolitan informó. El modelo también descubrió una vulnerabilidad de cuatro años de antigüedad en Zcashel pool protegido Orchard de

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!