OpenAI e Anthropic preparam Washington para um desastre de IA que veem como iminente no próximo ano

Muitos profissionais do setor de IA antecipam um grande incidente impulsionado por IA dentro de seis a 12 meses. Executivos da Anthropic, OpenAI e outros grandes desenvolvedores já estão trabalhando com os legisladores que escreverão as regras afterward, segundo o Axios.

Executivos reconhecem que não há como qualquer projeto de lei sobre IA ser aprovado agora, então estão tentando se antecipar à legislação de emergência que Washington escreveria após o primeiro desastre.

O projeto de lei de Sanders preveria prisão para infratores por até 20 anos

Os planejadores esperam que os democratas saiam das eleições intermediárias de 3 de novembro em uma posição mais forte e avancem rapidamente contra a IA avançada. Mas o impulso esbarra em um Congresso mais antigo que não compreende a tecnologia, numa economia que depende dos gastos com data centers e de modelos de peso aberto que qualquer pessoa pode baixar hoje.

As empresas não acreditam que o controle de ambas as câmaras por parte dos democratas encerre as disputas internas, incluindo as divisões entre os próprios democratas.

As propostas variam desde uma proibição da superinteligência até uma pausa no desenvolvimento avançado. Uma delas vem do senador Bernie Sanders e do representante Greg Casar, intitulada Lei de Proibição da Superinteligência Artificial (Ban Artificial Superintelligence Act).

Ela proibiria a IA que iguala ou supera os humanos em uma ampla gama de tarefas e interromperia o trabalho avançado até que uma nova agência federal formule padrões de segurança. As penalidades podem incluir até 20 anos de prisão.

Interruptores de emergência obrigatórios para modelos avançados são apoiados por ambos os partidos e por partes da indústria. Alguns especialistas questionam se todos os sistemas de inteligência artificial podem realmente ser desligados.

Um assessor democrata citou a crise financeira de 2008 e a COVID como exemplos do Congresso atuando rapidamente em emergências anteriores.

A Anthropic e a OpenAI temem um ataque cibernético que corte o fornecimento de energia e água

O cenário mais provável é um ciberataque de grande escala capaz de derrubar bancos, serviços de internet ou até mesmo utilities de energia e água. O primeiro dano real causado por uma IA insegura apenas afastará ainda mais um público cauteloso da indústria, conforme esperado pelos planejadores.

O CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, e o presidente Donald Trump, que evitou regulamentar a IA, acabariam no centro das atenções.

As empresas também realizam testes de penetração (red-teaming) nesses piores cenários, atacando suas próprias defesas para encontrar vulnerabilidades.

A simulação de guerra é uma prática padrão nos negócios e na segurança nacional. Aqui, muitos pesquisadores seniores e executivos acreditam que um grande incidente é inevitável.

“A OpenAI realiza exercícios de preparação em que equipes discutem e analisam uma variedade de cenários potenciais”, disse um porta-voz da empresa. “Esses cenários não são tratados como inevitáveis, mas têm como objetivo nos ajudar a nos preparar para diversas circunstâncias.” A Anthropic recusou-se a comentar.

Na Coreia do Sul, um atacante isolado supostamente utilizou modelos de IA chineses, incluindo o DeepSeek, para atacar dois bancos no país e roubar dados de dezenas de milhares de clientes.

A CrowdStrike avalia com confiança moderada que o atacante é provavelmente falante de chinês. O atacante então pediu ao Claude Code da Anthropic conselhos sobre onde vendê-lo, segundo a empresa de segurança.

Anthropic revelou quatro exemplos de modelos Claude acessando a internet aberta durante os testes e invadindo sistemas externos. O laboratório também está analisando dezenas de milhares de instâncias de comportamento inesperado dos modelos.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.