Anthropic alerta que IA criada por IA pode superar a segurança e desestabilizar mercados

A inteligência artificial está assumindo mais das tarefas necessárias para criar modelos mais fortes. A Anthropic afirma que o Claude já garante que o processo ocorra mais rápido, embora ainda não seja capaz de criar um sucessor sozinho. A empresa, em uma avaliação de 4 de junho, disse que o avanço da IA cria um risco de a tecnologia superar diretamente os controles de segurança e a supervisão regulatória.

Quando a IA se constrói e o que isso ainda não significa

No entanto, o Claude ainda não atingiu o nível de autoaperfeiçoamento recursivo, no qual uma IA criaria e treinaria seu sucessor sem exigir qualquer intervenção humana. De acordo com a Anthropic, nenhum sistema alcançou essa capacidade até o momento.

O Claude tem sido capaz de gerenciar grande parte dos esforços de programação da Anthropic, mesmo sem autonomia total. Até maio de 2026, o Claude havia criado mais de 80% do código que os engenheiros contribuíram para os projetos de software da empresa. No segundo trimestre de 2026, um engenheiro típico contribuiu com oito vezes mais código por dia do que em 2024.

Esses números mostram o quanto a produção de código cresceu, mas não necessariamente o quanto de trabalho útil é realizado. Uma pesquisa citada pelo METR com 349 profissionais técnicos revelou um aumento mediano autorrelatado de 1,4 a 2 vezes no valor do trabalho realizado com ferramentas de IA.

26% liderado pelo Claude, nenhum deles totalmente autônomo

O Claude agora faz mais do que apenas escrever código. As medições da Anthropic de agosto revelaram que ele liderou 26% das tarefas de pesquisa e desenvolvimento em IA, ante menos de 1% em fevereiro. O Claude colaborou ou liderou mais de 90% dos trabalhos, mas os humanos permaneceram envolvidos durante todo o processo. Nenhum dos trabalhos medidos foi totalmente autônomo.

As pesquisas da Anthropic e a pesquisa METR medem coisas diferentes. A Anthropic acompanha a geração de código e as pesquisas realizadas com a ajuda de sistemas de IA, enquanto a METR mede como os trabalhadores percebem aumentos no valor de seu trabalho. No entanto, nenhum dos estudos indica se a IA é capaz de determinar quais problemas de pesquisa devem ser resolvidos.

Como isso poderia se acumular sem que nenhum modelo único se autoaperfeiçoe

A IA não precisa ser totalmente autônoma para realizar pesquisas mais rapidamente. De acordo com um relatório de outubro do RAND, agentes de IA podem criar modelos mais robustos sem precisar desenvolver seus próprios sucessores. Eles já podem representar uma ameaça à segurança ao terem acesso a modelos e códigos sensíveis.

De acordo com os economistas da METR, podem existir restrições causadas por fatores como disponibilidade de dados, poder computacional e capacidade de realizar estudos experimentais. No entanto, eles não descartaram a ideia de uma aceleração sustentada do desenvolvimento da IA

A questão é se revisões de segurança independentes conseguiriam acompanhar os experimentos impulsionados por IA. Caso contrário, a supervisão pode ficar defasada muito antes da autonomia total.

De acelerar a fronteira a policiá-la

Essa preocupação levou o CEO da Anthropic, Dario Amodei, a pedir um desenvolvimento mais lento e avaliadores independentes. Em seu ensaio de setembro, ele escreveu:

“Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA.”

A divulgação da OpenAI em 16 de setembro detalhou seis casos de comportamento preocupante dos modelos. A Cryptopolitan também reportou divisões entre líderes tecnológicos sobre se devem desacelerar o desenvolvimento da IA.

Mas concordar com as preocupações de segurança não garante ação. A CSIS alertou que os avaliadores externos devem evitar conflitos de interesses. Os governos também devem se proteger contra captura regulatória. Acordos setoriais permanecem incertos.

O dinheiro segue o poder computacional

O debate também envolve interesses financeiros. O Índice de IA de Stanford de 2026 revelou que o investimento privado em IA aumentou 127,5% em 2025. O investimento nos EUA foi 23 vezes maior que o da China. A OCDE, também conhecida como OECD, alerta que o acesso a chips, infraestrutura em nuvem e dados permanece concentrado. Isso cria um paradoxo: a IA pode tornar a codificação de pesquisa mais barata, mas treinar e testar modelos avançados ainda exige investimentos enormes. Portanto, um desenvolvimento mais rápido pode conferir uma vantagem ainda maior aos laboratórios líderes em relação aos concorrentes menores.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.