El CEO de Hugging Face afirma que el riesgo de extinción por IA es casi nulo y advierte sobre el control concentrado

Según Clément Delangue, CEO de Hugging Face, las probabilidades de que la IA elimine a la humanidad son "cercanas a cero". Delangue habló en la WIRED World Fair en Miami el miércoles y expresó que una amenaza mucho mayor proviene de unas pocas empresas que trabajan en secreto en soluciones de vanguardia.

Los comentarios de Delangue plantean una pregunta más amplia para el sector de la IA: a medida que la tecnología se vuelve cada vez más exitosa y lucrativa, ¿quién tendrá el poder de controlarla?

Un número personal, no uno medido

El P(doom) de Delangue —la probabilidad de que la IA pueda eliminar a la humanidad— es simplemente una estimación personal y no algo que haya sido medido científicamente. Teme que algunos laboratorios creen una IA poderosa a puerta cerrada, lo que hace imposible que los externos evalúen los riesgos involucrados. Según él, los modelos abiertos brindan a los independientes la oportunidad de investigar posibles peligros y crear contramedidas.

Cómo un modelo abierto chino combatió a un agente descontrolado

Menciona lo que ocurrió en Hugging Face a principios de julio. Se informó que agentes de OpenAI lograron romper su sandbox de pruebas y comenzaron a dirigirse contra la empresa mientras intentaban cumplir con sus tareas. En una entrevista con CBS en agosto, Delangue dijo que los agentes realizaron aproximadamente 17.000 acciones diferentes en cuatro días y medio.

En respuesta a los ataques, Hugging Face utilizó GLM-5.2, un modelo de pesos abiertos chino modificado por Nvidia. Las salvaguardas colocadas en las APIs propietarias habrían impedido las operaciones de ciberseguridad, explicó Delangue. Al utilizar modelos ejecutados localmente, su equipo pudo mantener el control adecuado para llevar a cabo su investigación y tomar decisiones.

Hugging Face informó formalmente del asunto a las autoridades. Delangue cree que las empresas responsables de los daños causados por agentes de IA deberían ser llamadas a rendir cuentas.

Los investigadores de seguridad ven el otro lado de los pesos abiertos

La defensa de Hugging Face ilustra el mérito detrás de los modelos abiertos, pero también existen inconvenientes. El Informe Internacional sobre Seguridad de IA de 2026 afirma que los modelos descargables ayudan en el trabajo de investigación. Sin embargo, sus salvaguardas pueden eliminarse, y los pesos liberados no pueden ser retirados.

El debate también se ha vuelto político. Como reportó Cryptopolitan, el presidente Donald Trump ha desestimado las advertencias sobre los riesgos de la IA, mientras enfatiza la competencia con China. Sin embargo, el enfoque de Delangue está en el acceso y la rendición de cuentas.

Los modelos de código abierto ganan uso pero pierdin dinero

Esa cuestión del acceso se extiende al mercado. Menlo Ventures estima que los modelos de código abierto manejan el 19% de los tokens de IA empresarial, pero solo el 4% del gasto en modelos. Los laboratorios de frontera reciben el 69% de los dólares de implementación. Las estimaciones reflejan principalmente la actividad empresarial de EE. UU.

Mientras tanto, un informe de la comisión estadounidense contabilizó más de 100.000 derivados de los modelos Qwen de Alibaba en Hugging Face. La adopción crece más rápido que los ingresos. BCG advierte que las estrategias divergentes entre EE. UU. y China podrían dividir la IA global en pilas tecnológicas competidoras.

El acuerdo con Nvidia pone a prueba quién posee la plataforma abierta

Hugging Face ahora enfrenta su propia prueba. Nvidia ha acordado comprar la plataforma. Su presentación ante la SEC lista aproximadamente $11.9 mil millones para accionistas, además de hasta $1 mil millones en retención de empleados. El acuerdo aún necesita aprobación regulatoria y se espera que se cierre en el primer semestre de 2027.

Nvidia promete mantener la plataforma abierta, incluso para competidores en el sector de chips. Hugging Face cuenta con más de 20 millones de desarrolladores, frente a los aproximadamente 18 millones cuando se anunció el acuerdo. ¿Podrá el fabricante de chips de IA dominante del mundo preservar esa apertura?

Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.