OpenAI se coordina con Anthropic y Google DeepMind sobre seguridad de la IA
Podcast IA
OpenAI, Anthropic y Google DeepMind colaboran en medidas de seguridad para mitigar riesgos económicos y de seguridad de la IA, según informó OpenAI. Esta coordinación sectorial busca priorizar la seguridad mediante precedentes de ayuda mutua, descartando inicialmente la necesidad de exenciones antimonopolio, aunque existen iniciativas legislativas al respecto. Además, OpenAI apoya la creación de un marco federal de gobernanza y medidas legislativas bipartidistas para prevenir riesgos catastróficos. La iniciativa surge tras propuestas de desacelerar el desarrollo avanzado para investigar amenazas potenciales, contando con el respaldo de directivos del sector.
TradingKey - OpenAI está avanzando en las medidas de seguridad de la IA junto a sus principales competidores, Anthropic y DeepMind de Google (GOOGL), lo que intensifica aún más la coordinación en todo el sector en respuesta a la preocupación de que la IA pueda plantear amenazas económicas y de seguridad.
Chris Lehane, director de política global de OpenAI, declaró el martes en una sesión informativa en Washington que los contactos de la empresa con Anthropic y Google se han prolongado durante varias semanas. Asimismo, afirmó que OpenAI considera que la coordinación entre las tres empresas en materia de seguridad no requiere una exención antimonopolio.
"Lo mejor es trabajar juntos y anteponer la seguridad", señaló Lehane, citando la industria de la aviación comercial como un ejemplo en el que la ayuda mutua entre empresas para mejorar la seguridad cuenta con precedentes desde hace tiempo.
La intensificación de las conversaciones se produce después de que el director ejecutivo de Anthropic, Dario Amodei, publicara el pasado sábado un ensayo de unas 3.800 palabras en el que pedía desacelerar el desarrollo de los sistemas de IA más avanzados para dar a los investigadores más tiempo para comprender las amenazas potenciales. Posteriormente, la propuesta obtuvo el respaldo del director ejecutivo de OpenAI, Sam Altman, y del responsable de IA de SpaceX, Elon Musk. Los portavoces de Anthropic y Google DeepMind aún no han hecho comentarios sobre las informaciones acerca de la coordinación entre las tres compañías.
El viaje de Lehane a Washington tenía como objetivo reunirse con los legisladores. Declaró que OpenAI está dispuesta a respaldar planes legislativos bipartidistas orientados a prevenir posibles riesgos catastróficos de la IA, afirmando: "Apoyaremos cualquier medida que permita su aprobación". Señaló que la vía preferida por la empresa incluye el establecimiento de un marco federal de gobernanza para la IA, al tiempo que se mantiene abierta a las propuestas pertinentes que están tomando forma en el Senado.
En cuanto a si la coordinación en materia de seguridad requiere exenciones legales, ya hay iniciativas legislativas en marcha: una propuesta otorgaría a las empresas de IA una exención antimonopolio acotada, lo que les permitiría compartir información sobre riesgos de pérdida de control, amenazas cibernéticas o biológicas y filtraciones de datos. La disposición se ha incorporado a la ley de defensa anual.
Este contenido ha sido traducido por IA y revisado por humanos. Se ofrece solo con fines de referencia e información general, y no constituye asesoramiento en materia de inversión.
Artículos Recomendados
Comentarios (0)
Haga clic en el botón $, introduzca el símbolo y seleccione si desea vincular una acción, un ETF o otro valor.