A OpenAI traça limites sobre os riscos da IA, desafiando a abordagem de segurança da Anthropic

A OpenAI acredita que os benefícios da IA superam alguns dos riscos, colocando-a ligeiramente em desacordo com as regras de segurança em primeiro lugar da Anthropic. O CEO Sam Altman disse aos repórteres: "Acreditamos que o mundo deve aceitar algumas coisas ruins acontecendo pelos benefícios desta tecnologia e pelas pessoas terem agência." 

O executivo admitiu ainda que havia uma diferença inerente entre sua empresa e a Anthropic no que diz respeito às regulamentações de IA. Ele observou que não adere à ideia de que a IA é tão perigosa que um único laboratório deveria ter monopólio e controle sobre seu uso, embora entenda a racionalidade por trás dessa posição. 

Ele afirmou que a abordagem de guardião é totalmente inaceitável e vai contra a preferência da OpenAI por regulamentações mais leves para a IA.

Altman havia apoiado a desaceleração do desenvolvimento da IA

No geral, Altman está argumentando contra exigir uma livre de risco Ecossistema de IA. Ele afirma que alguns usos indevidos e outras consequências prejudiciais são inevitáveis, mas que seriam compensados pelos benefícios mais amplos da tecnologia. “Acho que as pessoas farão um trabalho tremendamente — em ordens de grandeza maior — de coisas boas do que ruins”, disse ele.

No entanto, anteriormente, como reportou por Cryptopolitan, o CEO da Anthropic, Dario Amodei, havia incentivado empresas de IA a desacelerar o desenvolvimento de sua tecnologia, uma ideia totalmente apoiada por Altman. Na época, ele comentou, “Concordo com Dario de que precisamos controlar o ritmo das tecnologias de fronteira. Este tem sido um tópico principal nas discussões que tivemos na OpenAI nas últimas semanas. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo.” 

Principalmente, a Anthropic alertou amplamente que, apesar dos benefícios da IA, ela pode escapar ao controle humano e infiltrar-se em redes externas. Ela acrescentou que os modelos de ponta podem exibir traços de autopreservação, como tentar impedir um desligamento, ocultar fatos ou agir de forma enganosa.

Como visto em julho de 2026, alguns modelos da OpenAI supostamente contornaram controles destinados a isolá-los da internet e acessaram partes da infraestrutura de pesquisa da OpenAI e dos sistemas do Hugging Face. Os modelos supostamente se comunicaram secretamente, exploraram falhas de segurança no sistema compartilhado, navegaram na web e acessaram redes externas. Na época, a OpenAI comprometeu-se a implementar proteções mais robustas para seus modelos. 

Da mesma forma, durante uma avaliação de cibersegurança conduzida pelo Instituto de Segurança de IA do Reino Unido com os filtros desativados, o Claude Mythos 5 da própria Anthropic criou perfis falsos no GitHub, direcionou-se a um desenvolvedor com autoridade para aprovar seu código malicioso e enviou e-mails contaminados com malware para indivíduos distintos. Mais recentemente, a Google também divulgou que o Gemini tentou obter acesso aos sistemas de outras empresas.

OpenAI e Anthropic divergem sobre segurança de IA

O desacordo revela uma divisão crescente na indústria de IA sobre o quanto de liberdade as empresas devem ter para desenvolver sistemas cada vez mais poderosos. Enquanto a OpenAI favorece manter a IA amplamente acessível, a Anthropic adotou uma abordagem mais cautelosa, defendendo salvaguardas e supervisão mais rigorosas.

Os comentários de Altman sugerem que a OpenAI acredita que a sociedade deve aceitar alguns riscos em vez de impor restrições que possam limitar usos legítimos da IA. Críticos, no entanto, alertam que alguns riscos podem se tornar difíceis de reverter uma vez que sistemas altamente capazes sejam amplamente implantados.

A divisão deixa os formuladores de políticas diante de uma tarefa difícil: abordar as ameaças da IA sem impor regras que possam retardar a inovação ou enfraquecer a concorrência.

O presidente Trump ignorou pedidos por mais regulamentações de IA

Até o momento, o presidente dos EUA, Donald Trump, tem repetidamente descartado demandas por novas regulamentações de IA, afirmando que elas apenas atrasariam as empresas americanas na corrida contra a China. Ele acredita firmemente que as agências de aplicação da lei atuais são totalmente suficientes para fiscalizar a tecnologia. Ele também ordenou que sua administração descrevesse a IA como "super inteligência", buscando melhorar a imagem pública da tecnologia.

No entanto, na terça-feira, o presidente Trump promoveu o novo chatbot do governo, recebeu executivos de tecnologia de destaque na Casa Branca e apresentou um acordo voluntário para abordar as crescentes preocupações com a segurança.

Defensores da segurança afirmam que a medida demonstra que Trump quer provar que está ouvindo os temores dos eleitores sobre a IA, sem desacelerar seu progresso. O acordo que ele assinou com seis gigantes da tecnologia — incluindo Nvidia, SpaceX e OpenAI — não prevê penalidades reais por descumprimento das regras, embora Trump o tenha considerado ‘moralmente vinculante’. 

“Esta foi uma tentativa de passar a impressão de que o governo está atendendo a essas preocupações, sem minar o que tem sido uma linha muito clara e consistente desta administração: de que a regulação e a governança inherentemente impedem a inovação”, afirmou Kat Duffy, do Conselho de Relações Exteriores, partido não partidário.

O acordo de terça-feira, no entanto, inclui medidas de segurança que especialistas vêm solicitando, como exigir que as empresas construam defesas internas robustas contra ataques cibernéticos e colaborem com revisores externos independentes. 

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.