xAI processa usuário do Grok por deepfakes explícitos de menores

A xAI de Elon Musk levou um homem da Carolina do Sul a um tribunal federal no Texas, acusando-o de usar o chatbot Grok para criar deepfakes sexualmente explícitos de menores, marcando a primeira vez que uma empresa de IA processa um de seus próprios usuários por conteúdo gerado usando sua plataforma.

O réu, Terry Harwood, foi preso em fevereiro sob acusações separadas de exploração sexual de menores, de acordo com a Reuters. A ação civil da xAI foi protocolada na terça-feira, 14 de abril, e agora será acompanhada de qualquer processo criminal decorrente dessa prisão.

Processo da xAI

O processo alega que ele abriu diversas contas comdentfalsas e, em seguida, alimentou a ferramenta de IA com fotografias regulares de adultos e crianças, antes de escrever instruções destinadas a transformar essas imagens em conteúdo sexual. De acordo com a Al Jazeera, as pessoas usadas nessas ações não consentiram e não sabiam que suas fotos estavam sendo utilizadas.

A xAI alega que o sistema reagiu à ação. O Grok recusou as solicitações, sinalizando-as como violações de suas regras de conteúdo. A resposta de Harwood, segundo a denúncia, foi continuar reescrevendo as mensagens e tentando novamente.

“As ações do réu foram um esquema calculado para usar a ferramenta da autora para fins criminosos, expondo vítimas reais a danos profundos e duradouros”, escreveu a xAI no processo, citado pela Reuters. A empresa também alega que ele produziu imagens sexuais não consensuais de adultos.

A empresa de IA solicitou duas coisas ao tribunal no processo judicial. Estas incluem indenização monetária, sem valor específico estipulado, e uma ordem judicial que impeça Harwood de usar o produto Grok novamente.

A xAI também aproveitou o documento para detalhar a dimensão de seu trabalho de combate a infratores. A empresa afirmou ter suspendido 52.222 contas este ano e enviado 73.604 denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas (National Center for Missing & Exploited Children), denúncias que resultaram em pelo menos 244 prisões em 2026.

Grok continua sob escrutínio mais amplo

Antes mesmo deste caso, a xAI já vinha sofrendo pressão devido ao conteúdo que o Grok era capaz de produzir. Órgãos reguladores na Europa examinaram minuciosamente a ferramenta de IA, enquanto legisladores em Washington levantaram diversas preocupações. Tanto a Malásia quanto a Indonésia proibiram o chatbot devido ao conteúdo sexualmente explícito, conforme relatado pela.

O próprio Elon Musk negou o problema subjacente no início deste ano. "Não tenho conhecimento de nenhuma imagem de menores de idade nus gerada pelo Grok. Literalmente zero", escreveu ele no X em janeiro.

Não tenho conhecimento de nenhuma imagem de menores de idade nus gerada pelo Grok. Literalmente zero.

Obviamente, o Grok não gera imagens espontaneamente, ele faz isso apenas de acordo com as solicitações do usuário.

Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, pois o princípio de funcionamento… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) 14 de janeiro de 2026

Uma via legal criada recentemente, chamada Lei DEFI, também levou a um aumento nesses casos. A lei, assinada em 2024, oferece às vítimas de deepfakes íntimos não consensuais uma maneira de processar, e vários estados aprovaram leis individuais nesse sentido.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.