El gobernador de California, Gavin Newsom, veta el proyecto de ley de seguridad de la IA

California

Newsom argumentó que el proyecto de ley se centraba demasiado en regular las principales corporaciones de IA existentes y no protegía al público de los peligros "reales" que plantea la nueva tecnología.

Él dijo:

En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que las implemente un sistema grande. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología.

–Gavin Newsom

Senador critica el veto y lo califica de revés para la seguridad pública

El senador estatal demócrata Scott Weiner, autor del proyecto de ley, describió el rechazo como un revés para todos los que creen en la supervisión de corporaciones masivas que están tomando decisiones críticas que afectan la seguridad, el bienestar y el futuro del planeta.

La SB 1047 habría requerido que los desarrolladores, incluidos los principales actores como OpenAI, Meta y Google, implementaran un "interruptor de apagado" para sus modelos de inteligencia artificial y desarrollaran planes para mitigar riesgos extremos. Además, el proyecto de ley habría permitido al fiscal general del estado demandar a los desarrolladores de IA en casos en los que sus modelos plantearan amenazas continuas, como una toma de control de la red de inteligencia artificial.

Este proyecto de ley se centró específicamente en sistemas cuyo desarrollo costó más de 100 millones de dólares y que necesitan mucha potencia de procesamiento. Ningún modelo actual de inteligencia artificial ha alcanzado ese umbral, pero algunos expertos dijeron que eso podría cambiar durante el próximo año.

Newsom aboga por regulaciones de IA con base científica en medio de la controversia sobre el proyecto de ley de seguridad

Newsom afirmó que había consultado con los principales expertos en seguridad de la IA para ayudar a California a crear regulaciones efectivas que prioricen un análisis basado en la ciencia de los riesgos potenciales del desarrollo de la IA. Hizo hincapié en que su administración continuaría presionando para lograr protocolos de seguridad sólidos, insistiendo en que los reguladores no deben esperar a que actúe una catástrofe importante.

A pesar de vetar la SB 1047, Newsom destacó que su administración firmó más de 18 proyectos de ley relacionados con la regulación de la IA en el último mes.

Antes de la decisión de Newsom, el proyecto de ley era impopular entre los políticos, consultores y las principales empresas de tecnología. La presidenta de la Cámara de Representantes, Nancy Pelosi, y empresas como OpenAI han declarado que impediría en gran medida el avance de la inteligencia artificial.

El jefe de política de IA del Abundance Institute, Neil Chilson, advirtió que si bien el proyecto de ley se dirige principalmente a modelos que cuestan más de 100 millones de dólares, su alcance podría ampliarse fácilmente para tomar medidas enérgicas también contra los desarrolladores más pequeños.

Sin embargo, algunas personas están abiertas al proyecto de ley. El multimillonario Elon Musk, que está construyendo su propio modelo de inteligencia artificial llamado “Grok”, es uno de los pocos pesos pesados ​​de la tecnología que apoya la medida y leyes más amplias sobre IA. En una publicación del 26 de agosto en X, Musk afirmó que California probablemente debería aprobar el proyecto de ley de seguridad de la IA SB 1047, pero admitió que apoyar el proyecto de ley era una “decisión difícil”.