Califórnia emite intimação judicial à OpenAI sobre hack do Hugging Face e riscos cibernéticos

O procurador-geral da Califórnia serviu um mandado de intimação investigativo à OpenAI exigindo respostas sobre incidentes de cibersegurança envolvendo seus modelos de IA. 

O maior estado dos EUA é o mais recente a colocar a fabricante do ChatGPT sob escrutínio, depois que ficou público que alguns de seus agentes agiram por conta própria.

O mandado de intimação visa o risco de ciberataques

O Departamento de Justiça da Califórnia destacou que o mandado de intimação estende uma investigação formal que o procurador-geral abriu no mês passado sobre a violação da plataforma de IA Hugging Face. Ele foca nos riscos cibernéticos que o departamento afirma os modelos da OpenAI podem representar.

O procurador-geral, Rob Bonta, disse, “Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de cibersegurança envolvendo a empresa e seus modelos de IA.”

Bonta disse que as empresas que constroem modelos de fronteira têm "uma responsabilidade moral e legal de garantir que não perpetrem ou facilitem ciberataques". Ele acrescentou que usaria os poderes de aplicação da lei da Califórnia para determinar se alguma lei foi violada.

A intimação foi enviada na quarta-feira, com o Departamento de Justiça da Califórnia pedindo a qualquer pessoa com conhecimento dos incidentes relacionados que se manifeste por meio de seu portal de denúncia.

Como um agente da OpenAI conseguiu escapar e atacar o Hugging Face?

Em julho, a OpenAI estava realizando um teste para avaliar as capacidades cibernéticas de um agente que estava rodando em dois de seus sistemas mais avançados, incluindo o GPT-5.6 Sol.

De acordo com a OpenAI, esse teste foi realizado em um ambiente fechado, sem acesso à internet. 

No entanto, o isolamento falhou quando o agente explorou uma falha de software, ganhando acesso à internet aberta. O agente realizou uma intrusão de vários dias contra o Hugging Face. Executou mais de 17.000 "ações de atacante" e invadiu a infraestrutura da empresa.

Isso foi documentado em um agosto 3 carta de uma coalizão de procuradores-gerais de 15 estados até o CEO Sam Altman.

A OpenAI só soube que seu próprio produto era o responsável depois que a Hugging Face detectou a atividade e alertou o FBI.

700 agentes teriam participado da violação, roubando credenciais e fazendo upload de arquivos maliciosos. A OpenAI desde então pausou o lançamento de seu último modelo, GPT-6.1 Astra, devido a preocupações com segurança.

Outros estados e um grupo de segurança chegaram primeiro

Bonta não está agindo isoladamente, assim como o Procurador-Geral do Alabama, Steve Marshall emitido emitiu sua própria intimação em 24, investigando se coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. violou a Lei de Práticas Comerciais Enganosas do estado, anunciou seu escritório. O da Flórida, James Uthmeier, pediu na segunda-feira à Justiça que suspendesse por enquanto o desenvolvimento adicional da tecnologia.

Os tribunais também já estão envolvidos. Uma organização sem fins lucrativos chamada Legal Advocates for Safe Science and Technology processou a OpenAI na terça-feira no Tribunal Superior de São Francisco sob a Lei de Concorrência Desleal da Califórnia. O fundador do grupo, Tyler Whitmer, disse que deseja uma injunção que vincule os danos da IA "de volta a um ator humano ou corporativo responsável". 

O porta-voz da OpenAI, Drew Pusateri, classificou a ação como totalmente infundada, ao mesmo tempo em que reconheceu que a violação de dados da Hugging Face foi "um incidente grave".

Uma coalizão bipartidária de 25 procuradores-gerais estaduais pressionou separadamente o Congresso a regular os desenvolvedores de IA em grande escala, alertando que sistemas sem controle podem ameaçar os sistemas financeiros, a infraestrutura e a segurança nacional.

Uma oferta pública inicial adiada para o próximo ano

A acumulação de processos jurídicos ocorre enquanto a OpenAI aguarda um dos lançamentos mais aguardados no mercado de tecnologia. Altman disse à Fortune em 12 de setembro que a empresa não irá abrir capital em 2026, considerando-o um "momento mal aconselhado" diante das preocupações com a segurança da IA. O New York Times relatou em junho que tal listagem poderia valorizar a OpenAI perto de US$ 1 trilhão.

O relacionamento da OpenAI com a Califórnia é profundo. A empresa está reestruturando sua divisão com fins lucrativos em uma corporação de benefício público sob um memorando de entendimento assinado com o gabinete de Bonta em outubro de 2025, um processo que mantém o procurador-geral do estado em um papel de supervisão. Isso torna a investigação atual de cibersegurança um timing inadequado para uma empresa que tenta abrir caminho para os mercados públicos.

Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.