RPT-ANÁLISE-Musk sofre golpe por deepfakes do Grok, mas batalha regulatória está longe de terminar

Por Supantha Mukherjee e Paul Sandle

ESTOCOLMO/LONDRES, 16 Jan (Reuters) - O chatbot Grok, de Elon Musk, está testando a capacidade da Europa de reprimir deepfakes e a manipulação digital de imagens online, mesmo depois de os reguladores terem conquistado uma rara vitória ao obrigar a xAI de Musk a restringir a criação de imagens sexualizadas.

xAI disse no final da quarta-feira (link) que restringiu a edição de imagens para usuários do Grok AI depois que o chatbot gerou milhares de imagens sexualizadas de mulheres e menores, o que alarmou os órgãos reguladores globais.

O recuo de Musk, que inicialmente desdenhou da tendência, destaca a dificuldade de fiscalizar ferramentas de IA que tornam a criação de conteúdo explícito barata e fácil. Este é o mais recente conflito entre Europa e Musk, após desavenças sobre interferência eleitoral (link), moderação de conteúdo e liberdade de expressão (link).

Muitos órgãos reguladores ainda estão se esforçando para desenvolver leis e regras que governem a IA, com dúvidas sobre o que constitui nudez, como definir consentimento e quem é o responsável: o usuário ou a plataforma.

"É realmente uma zona cinzenta no que diz respeito à criação de imagens de nudez", disse à Reuters Ängla Pändel, advogada de proteção de dados e privacidade do escritório Mannheimer Swartling, em Estocolmo.

A Ofcom, reguladora britânica e uma das mais atuantes no assunto, saudou a iniciativa de Musk, mas afirmou que sua investigação sobre a xAI em relação às imagens do Grok continuará.

"Nossa investigação formal continua em andamento", disse um porta-voz. "Estamos trabalhando incansavelmente para avançar com o caso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir a situação."

AUTORIDADES AFIRMAM QUE AINDA É NECESSÁRIO O MAIS FORTE REFORÇO DA FISCALIZAÇÃO

No início deste mês, Grok criou imagens hiper-realistas de mulheres (link) no X, manipuladas para parecerem estar em biquínis minúsculos, em poses degradantes ou até mesmo cobertas de hematomas. Algumas menores de idade foram digitalmente despidas, ficando apenas de roupa de banho.

Até quarta-feira, a Reuters constatou que o chatbot ainda produzia imagens sexualizadas de forma privada e sob demanda. Aparentemente, essa prática foi controlada, pelo menos em algumas regiões, na quinta-feira.

A xAI de Musk afirmou que estava bloqueando usuários de gerar imagens de pessoas com roupas sumárias em "jurisdições onde isso é ilegal". Essas jurisdições não foram identificadas.

Na Malásia e na Indonésia, o governo impôs proibições temporárias ao Grok (link), enquanto os reguladores da UE e do Reino Unido consideraram as imagens ilegais. O Reino Unido, a França e a Itália iniciaram investigações (link), mas enfrentaram pedidos por medidas mais rigorosas.

"É necessária uma fiscalização mais rigorosa, ao abrigo da Lei dos Serviços Digitais (DSA), para impedir que aplicativos e plataformas sexualizem ou desnudifiquem mulheres e crianças", disse a eurodeputada democrata-cristã Nina Carberry, que considerou a mais recente iniciativa (link) um "passo positivo".

Um porta-voz da Comissão Europeia afirmou que, caso as alterações implementadas no Grok não fossem eficazes, a Comissão continuaria a utilizar todas as ferramentas de fiscalização da Lei de Segurança Digital da UE contra a plataforma.

ÁREA CINZENTA JURÍDICA, ÔNUS PESADO PARA AS VÍTIMAS

A Lei de Segurança Online do Reino Unido considera o compartilhamento de imagens íntimas sem consentimento, incluindo deepfakes gerados por IA, uma "infração prioritária", afirmou Alexander Brown, advogado de proteção de dados do escritório Simmons & Simmons, no Reino Unido.

"Isso significa que a X deve tomar medidas proativas e proporcionais para impedir que esse tipo de conteúdo apareça em sua plataforma e removê-lo rapidamente quando detectado", disse ele.

Nos casos mais graves de descumprimento das normas, o órgão regulador britânico pode multar uma empresa em até 10% da receita ou solicitar a um tribunal que obrigue os provedores de serviços de internet a bloquear o site.

Para os indivíduos, levar plataformas aos tribunais é "um processo realmente difícil e pesado", disse Anders Bergsten, advogado da Mannheimer Swartling, citando o impacto emocional sobre as vítimas.

Os deepfakes existem há anos (link), bem antes do surgimento dos aplicativos de IA, embora estivessem em grande parte confinados aos cantos mais obscuros da web. O poder de publicação do X confere ao Grok um alcance sem precedentes.

"A facilidade de publicação permite que os deepfakes se espalhem em larga escala", disse a advogada Carrie Goldberg, dos EUA, que trabalha com vítimas de assédio cibernético.

No Reino Unido e na Suécia, as leis tornam ilegal o compartilhamento não consensual de imagens de nudez. O Reino Unido está ampliando a lei para incluir a produção dessas imagens.

De acordo com a DSA, a suspensão de um serviço é considerada o último recurso. (link) Especialistas afirmaram que a Lei de IA da UE também não prevê nada em relação a imagens de nudez de adultos, apenas obrigações de transparência para deepfakes, disseram especialistas.

O primeiro-ministro britânico, Keir Starmer, saudou a iniciativa da X na quinta-feira, mas alertou: "Liberdade de expressão não é a liberdade de violar o consentimento. As imagens de mulheres jovens não são propriedade pública e a sua segurança não está em discussão."

"Se precisarmos fortalecer ainda mais as leis existentes, estamos preparados para fazê-lo."