OpenAI y Anthropic preparan Washington para un desastre por IA que prevén dentro de un año

Muchas personas en la industria de la IA anticipan un incidente importante impulsado por la IA dentro de seis a doce meses. Los ejecutivos de Anthropic, OpenAI y otros grandes desarrolladores ya están trabajando con los legisladores que redactarán las normas posteriores, según Axios.

Los ejecutivos reconocen que no hay forma de que cualquier proyecto de ley sobre IA sea aprobado ahora, por lo que están intentando adelantarse a la legislación de emergencia que Washington redactaría tras el primer desastre.

El proyecto de ley de Sanders prevé prisión de hasta 20 años para los infractores

Los planificadores esperan que los demócratas salgan fortalecidos de las elecciones intermedias del 3 de noviembre y actúen rápidamente contra la inteligencia artificial avanzada. Sin embargo, este impulso choca con un Congreso más antiguo que no comprende la tecnología, una economía que depende de los gastos en centros de datos y modelos de peso abierto que cualquiera puede descargar hoy.

Las empresas no creen que el control de ambas cámaras ponga fin a las disputas internas, incluidas las divisiones entre los demócratas.

Las propuestas van desde una prohibición de la superinteligencia hasta una pausa en el desarrollo avanzado. Una de ellas proviene del senador Bernie Sanders y el representante Greg Casar, y se denomina Ley de Prohibición de la Superinteligencia Artificial.

Prohibiría la IA que iguale o supere a los humanos en una amplia gama de tareas y detendría el trabajo avanzado hasta que una nueva agencia federal formule normas de seguridad. Las sanciones pueden incluir hasta 20 años de prisión.

Los interruptores de apagado obligatorios para los modelos avanzados cuentan con el apoyo de ambos partidos y de partes de la industria. Algunos expertos cuestionan si incluso todos los sistemas de inteligencia artificial pueden apagarse.

Un asistente demócrata citó la crisis financiera de 2008 y la COVID como ejemplos de cómo el Congreso actuó con rapidez en emergencias anteriores.

Los planificadores de Anthropic y OpenAI temen un ciberataque que corte el suministro de electricidad y agua

El escenario más probable es un ciberataque lo suficientemente grande como para dejar sin servicio a los bancos, a los proveedores de servicios de Internet o incluso a las empresas de suministro eléctrico y de agua. Los planificadores esperan que el primer daño real causado por una IA insegura solo aleje aún más a un público ya receloso hacia la industria.

El director ejecutivo de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman; y el presidente Donald Trump, quien ha evitado regular la IA, terminarían bajo presión.

Las empresas también realizan pruebas de penetración (red-teaming) ante estos peores escenarios, atacando sus propias defensas para encontrar vulnerabilidades.

La simulación de conflictos bélicos (war-gaming) es una práctica estándar en los negocios y en la seguridad nacional. Aquí, muchos investigadores senior y ejecutivos creen que un incidente grave es inevitable.

«OpenAI realiza ejercicios de preparación en los que los equipos discuten y analizan una variedad de escenarios potenciales», dijo un portavoz de la empresa. «Estos escenarios no se consideran inevitables, sino que tienen como objetivo ayudarnos a prepararnos para diversas circunstancias». Anthropic declinó hacer comentarios.

En Corea del Sur, un atacante individual supuestamente utilizó modelos de inteligencia artificial chinos, incluidos DeepSeek, para atacar dos bancos allí y robar datos de decenas de miles de clientes.

CrowdStrike evalúa con moderada confianza que el atacante es probablemente un hablante de chino. Según la firma de seguridad, el atacante luego solicitó a Claude Code de Anthropic consejos sobre dónde venderlo.

Anthropic ha revelado cuatro ejemplos de modelos Claude que se conectaron a internet abierto durante las pruebas y accedieron a sistemas externos. Los laboratorios también están examinando decenas de miles de instancias de comportamiento inesperado del modelo.

Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.