Altman, de OpenAI, afirma que esto podría ralentizar la IA a medida que aumentan los informes sobre el uso indebido de armas biológicas

Esta semana, el personal de OpenAI fue informado de que el laboratorio de IA estaría dispuesto a reducir el ritmo de su trabajo en las áreas más avanzadas de la inteligencia artificial. Sam Altman extendió la misma propuesta a sus rivales en el campo de la IA, incluyendo a Anthropic, que también reconoció los riesgos asociados al desarrollo de la IA en un informe que reveló que científicos vinculados a instituciones estatales intentaron utilizar sus modelos Claude para la investigación de armas biológicas. 

OpenAI ha declarado que ya ha suspendido algunas pruebas de entrenamiento internas y ha flexibilizado ciertas partes del desarrollo de modelos debido a preocupaciones de seguridad.

La sucesión de revelaciones está avivando el debate sobre si el sector se está moviendo demasiado rápido antes de las ofertas públicas, según siguen insinuando ambas empresas.

¿Por qué quiere Altman ralentizar el desarrollo de la IA?

En una reunión con todos los empleados de OpenAI, Sam Altman, director ejecutivo, informó a los presentes que el laboratorio de IA, junto con otros laboratorios que hayan dado su consentimiento, podría ralentizar el ritmo de lanzamiento de los modelos más innovadores.

Debido al carácter voluntario de cualquier acuerdo de este tipo, Altman admitió que no todas las empresas estarían de acuerdo con el plan, según fuentes citadas por Bloomberg.

Ese escepticismo tienedent. Hace tres años, en marzo de 2023, Elon Musk, Steve Wozniak y más de 1000 personas firmaron una carta abierta para detener el trabajo avanzado en IA durante seis meses.

Tal y como informaron los medios en su momento, los laboratorios no cumplieron con la moratoria que habían acordado conjuntamente.

El llamamiento a la acción en materia de riesgos de la IA también se hizo público en una publicación del 6 de septiembre del científico jefe de OpenAI, Jakub Pachocki, en la que pedía a las empresas de IA que se coordinaran para "ralentizar el desarrollo futuro según sea necesario". Pachocki expresó su esperanza de que las ralentizaciones voluntarias "se generalicen hasta que se establezcan límites de seguridad compartidos"

En julio, Altman declaró haber informado a funcionarios de la Casa Blanca sobre la necesidad de frenar el desarrollo de la IA. Junto con el director ejecutivo de Anthropic, Dario Amodei, Altman también firmó previamente una declaración breve en la que afirmaba que la IA representa un riesgo de extinción a escala social.

¿Se pueden utilizar los modelos de IA para construir armas biológicas?

Los modelos de IA han avanzado hasta el punto de que podrían ser capaces de respaldar la investigación de armas biológicas. Precisamente esta semana, OpenAI declaró que sus modelos habían resuelto el problema matemático de Navier-Stokes, aunque en términos controvertidos.

Anthropic aportó nuevos elementos a ese debate cuando el informe de inteligencia sobre amenazas del laboratorio de 154 páginasy publicado el 10 de septiembre, detalló cinco casos en los que los investigadores intentaron utilizar las capacidades de Claude para apoyar su trabajo en el desarrollo de armas biológicas.

Anthropic afirmó que los intentos desde “regiones no compatibles” buscaban eludir las restricciones geográficas y ocultar el propósito de su trabajo. El laboratorio indicó que eliminó las cuentas, pero no mencionó ningún país ni institución.

¿Han superado los riesgos de la IA a sus beneficios?

Los informes surgieron en medio de una ola de alarma pública proveniente del interior de los laboratorios. El 8 de septiembre, el investigador Jacob Coxon renunció y acusó tanto a OpenAI como a Anthropic de "jugar con nuestras vidas", afirmando que sus colegas creen que la tecnología podría "acabar con todos nosotros para finales de la década" y advirtiendo sobre la extinción humana para 2030.

Su publicación obtuvo más de 150 millones de visualizaciones. Dos días después, el 10 de septiembre, antiguos empleados de Anthropic y DeepMind de Google expresaron preocupaciones similares y exigieron mayor transparencia.

Una petición presentada a finales de julio para crear un mecanismo que ralentice el desarrollo reunió las firmas de más de 1.000 trabajadores de las principales empresas de inteligencia artificial.

OpenAI está presionando al Congreso para que establezca normas de seguridad obligatorias basadas en capacidades que abarquen pruebas, evaluacionesdent , ciberseguridad e informesdent . «La perspectiva de un desarrollo de IA acelerado por la IA exige más que compromisos voluntarios», escribió Chris Lehane, director de Asuntos Globales.

California dio el primer paso: el gobernador Gavin Newsom firmó el miércoles los proyectos de ley SB 813 y AB 1405, junto con un proyecto de ley complementario, el AB 1864, destinado a protegerse contra las amenazas biológicas habilitadas por la inteligencia artificial.

En Washington, el senador Bernie Sanders presentó un proyecto de ley para frenar el desarrollo de la IA avanzada y prohibir la superinteligencia artificial, declarando a la BBC que ignorar las advertencias de los científicos convertiría a alguien en "un imbécil".

Eldent Donald Trump replicó, diciendo el jueves que le preocupaba que "si no ganamos en la IA, nos encontraremos en una situación muy mala"

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.