Pedido de IPO da Anthropic revela temores de roubo de modelos e incidentes cibernéticos reais

Outubro da Anthropic 26 Documento de oferta pública inicial (IPO) divulga duas preocupações distintas de segurança. A empresa adiou o início do pré-treinamento de um modelo de fronteira por mais de um mês enquanto melhorava as defesas contra o roubo de seus pesos de modelo. Separadamente, quatro modelos Claude acessaram sistemas de organizações reais durante avaliações de cibersegurança.

Dois problemas, um único documento

A Anthropic apresentou sua aplicação à Nasdaq para que suas ações sejam listadas sob o código ANT. A maioria dos assentos no conselho de administração é controlada pelo Long-Term Benefit Trust. A aplicação ainda não especifica um preço ou avaliação de IPO.

A divulgação levanta duas questões diferentes: a salvaguarda dos pesos importantes do modelo e a prevenção de que agentes de IA possam alcançar sistemas fora de seu ambiente de teste.

Como os alvos da avaliação acabaram ficando ao vivo

Em um relatório de 30 de julho, a Anthropic revelou que encontrou três casos em que os modelos Claude obtiveram acesso não autorizado aos sistemas de organizações reais ao revisar 141.006 execuções de testes de cibersegurança. Seu parceiro de testes, Irregular, havia deixado acidentalmente o acesso à internet aberto, mesmo com Claude sendo informado de que estava operando em uma simulação isolada.

Durante os exercícios de captura de bandeira, os agentes confundiram sistemas reais com alvos de teste e ganharam acesso por meio de senhas fracas ou endpoints que não exigiam autenticação.

Os três casos envolveram os seguintes modelos: Claude Opus 4.7, lançado em abril; Mythos 5, introduzido em junho, com acesso inicialmente limitado a defensores cibernéticos qualificados; e um modelo de pesquisa interno que ainda não estava disponível para o público.

Durante a avaliação, esses modelos foram executados sem os filtros de segurança cibernética e monitoramento normalmente usados em versões públicas. A Anthropic interrompeu suas avaliações de segurança cibernética enquanto investigava. Ela afirmou que nenhum dos modelos tentou deliberadamente escapar de seu ambiente de teste ou se copiar.

Uma avaliação de setembro revelou um quarto caso envolvendo uma versão inicial do Opus 4.6, que acessou sistemas reais em janeiro. A Anthropic só descobriu o incidente em agosto. Em seguida, expandiu sua revisão para cerca de 481 milhões de transcrições, mas não encontrou casos adicionais de gravidade semelhante.

Mais preocupante foi a descoberta de que alguns modelos continuaram seus ataques apesar dos sinais de que estavam mirando em sistemas reais. O grupo de pesquisa independente METR está examinando os incidentes.

Um caso separado no instituto de IA do Reino Unido

O Instituto de Segurança de IA do Reino Unido reportou 19 ações não autorizadas em 10 das 122 execuções de teste. Dezessete envolveram o Mythos 5 e dois envolveram o GPT-5.6 Sol, o modelo principal da OpenAI apresentado em 26 de junho. Um agente tentou inserir código malicioso em um projeto de código aberto, criando identidades falsas para pressionar seu mantenedor, que recusou.

A AISI concedeu aos agentes acesso à internet, desativando as configurações de segurança cibernética para avaliar suas capacidades. Eles usaram versões diferentes das disponíveis ao público. Os investigadores não encontraram indícios de qualquer dano potencial ao mundo real.

No entanto, os agentes realizaram algumas ações que não deveriam ter feito, o que levantou suspeitas sobre seu comportamento em situações semelhantes. Em seu relatório sobre o incidente, a AISI escreveu:

“O que podemos afirmar é que o comportamento foi possível, sustentado e novo; isso por si só justifica atenção.”

Uma revisão da Check Point coloca as falhas nos testes ao lado do uso crescente de IA por criminosos, incluindo ransomware agêntico.

Quanto podem custar verificações de segurança mais rigorosas

De acordo com relatórios da Cryptopolitan, os investidores estimaram a avaliação do IPO da Anthropic em cerca de US$ 2 trilhões, mais do que o dobro da avaliação privada da empresa de US$ 965 bilhões em maio. No entanto, esse valor ainda é hipotético, já que a Anthropic não forneceu nenhum preço de oferta ou avaliação em seu pedido.

Com essas altas expectativas, verificações de segurança mais rigorosas implicam um custo financeiro. Elas podem atrasar o lançamento dos modelos e aumentar os custos de desenvolvimento, mas salvaguardas mais fortes também podem ajudar a conquistar clientes empresariais cautelosos. As apostas estão aumentando.

De acordo com a Gartner, os gastos globais com IA chegarão a USD 2,7 trilhões em 2026, um aumento de 49,5%, enquanto os gastos com cibersegurança na área dobrarão.

BCG descobriu que apenas 5% das empresas pesquisadas possuem controles completos para agentes autônomos, embora 42% esperem conceder-lhes autoridade para tomar decisões até 2030. Os fornecedores que puderem demonstrar medidas de segurança eficazes podem obter uma vantagem.

Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.