CEO da Hugging Face diz que risco de extinção pela IA é quase zero e alerta para controle concentrado

De acordo com Clément Delangue, CEO do Hugging Face, as chances de a IA eliminar a humanidade são de "próximo de zero." Delangue falou na WIRED World Fair em Miami na quarta-feira e expressou que uma ameaça muito maior é representada por algumas empresas que trabalham em segredo em soluções de ponta.

Os comentários de Delangue levantam uma questão mais ampla para o setor de IA: à medida que a tecnologia se torna cada vez mais bem-sucedida e lucrativa, quem terá o poder de controlá-la?

Um número pessoal, não um valor medido

A P(doom) de Delangue — a probabilidade de a IA eliminar a humanidade — é apenas uma estimativa pessoal e não algo que tenha sido cientificamente mensurado. Ele teme que alguns laboratórios criem IAs poderosas às escondidas, o que impossibilita que terceiros avaliem os riscos envolvidos. De acordo com ele, os modelos abertos dão aos independentes a oportunidade de investigar possíveis perigos e desenvolver contramedidas.

Como um modelo aberto chinês combateu um agente descontrolado

Ele menciona o que aconteceu no Hugging Face em julho. Foi relatado que agentes da OpenAI romperam sua sandbox de teste e começaram a atacar a empresa enquanto tentavam cumprir suas tarefas. Em uma entrevista com a CBS em agosto, Delangue disse que os agentes realizaram aproximadamente 17.000 ações diferentes em quatro dias e meio.

Em resposta aos ataques, a Hugging Face utilizou o GLM-5.2, um modelo chinês de pesos abertos modificado pela Nvidia. As salvaguardas aplicadas em APIs proprietárias teriam impedido as operações de cibersegurança, explicou Delangue. Ao utilizar modelos executados localmente, sua equipe conseguiu manter o controle adequado para realizar suas investigações e tomar decisões.

A Hugging Face notificou formalmente as autoridades sobre o caso. Delangue acredita que as empresas responsáveis pelos danos causados por agentes de IA devem ser responsabilizadas.

Pesquisadores de segurança veem o outro lado dos pesos abertos

A defesa do Hugging Face ilustra o mérito por trás dos modelos abertos, mas há desvantagens. O Relatório Internacional de Segurança de IA de 2026 afirma que os modelos baixáveis ajudam no trabalho de pesquisa. No entanto, suas salvaguardas podem ser removidas, e os pesos lançados não podem ser recallados.

O debate também se tornou político. Como reportou a Cryptopolitan, o presidente Donald Trump ignorou os alertas sobre riscos da IA, enfatizando a competição com a China. O foco de Delangue, no entanto, está no acesso e na responsabilidade.

Modelos abertos ganham uso, mas perdem dinheiro

Essa questão do acesso se estende ao mercado. A Menlo Ventures estima que os modelos de código aberto processam 19% dos tokens de IA empresarial, mas apenas 4% dos gastos com modelos. Os laboratórios de fronteira recebem 69% dos dólares de implantação. As estimativas refletem principalmente a atividade empresarial dos EUA.

Enquanto isso, um relatório da comissão dos EUA contabilizou mais de 100.000 derivados dos modelos Qwen da Alibaba no Hugging Face. A adoção está crescendo mais rápido que a receita. A BCG alerta que as estratégias divergentes entre os EUA e a China podem dividir a IA global em pilhas tecnológicas concorrentes.

Acordo com a Nvidia testa quem controla a plataforma aberta

O Hugging Face agora enfrenta seu próprio teste. A Nvidia concordou em comprar a plataforma. Seu registro SEC lista cerca de US$ 11,9 bilhões para acionistas, além de até US$ 1 bilhão em retenção de funcionários. O acordo ainda precisa de aprovação regulatória e deve ser concluído no primeiro semestre de 2027.

A Nvidia promete manter a plataforma aberta, inclusive para concorrentes no setor de chips. A Hugging Face conta com mais de 20 milhões de desenvolvedores, um aumento em relação aos cerca de 18 milhões registrados quando o acordo foi anunciado. Será que a principal fabricante de chips de IA do mundo conseguirá preservar essa abertura?

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.