Espanha inicia investigação sobre X, Meta e TikTok por suposto conteúdo de abuso infantil gerado por IA

A Espanha iniciou um processo judicial contra a X, a Meta e o TikTok, alegando que seus modelos de IA ajudaram a criar e disseminar material de abuso sexual infantil.

O primeiro-ministro espanhol, Pedro Sánchez, afirmou na terça-feira que o governo invocará o Artigo 8º do Estatuto Orgânico do Ministério Público. Ele escreveu:

“Hoje, o Conselho de Ministros invocará o Artigo 8.º do Estatuto Orgânico do Ministério Público para solicitar que este investigue os crimes que a X, a Meta e o TikTok possam estar a cometer através da criação e disseminação de pornografia infantil por meio da sua inteligência artificial.”

Pedor acrescentou: “Essas plataformas estão atacando a saúde mental, a dignidade e os direitos de nossos filhos e filhas. O Estado não pode permitir isso. A impunidade dos gigantes precisa acabar.”

Duas semanas antes desse pedido judicial, Pedro havia compartilhado novos planos para combater o abuso online na Espanha, prometendo bloquear o acesso às redes sociais para qualquer pessoa com menos de 16 anos.

Em novembro, Pedro afirmou que o parlamento espanhol investigaria a Meta por possíveis violações de privacidade que afetam usuários do Facebook e do Instagram.

Dados da Internet Watch Foundation, sediada no Reino Unido, mostram a rapidez com que o problema está crescendo. No ano passado, a fundação identificou 3.440 vídeos de abuso sexual infantil gerados por inteligência artificial. No ano anterior, foram apenas 13.

A Europa continua a reforçar a fiscalização contra as principais empresas de tecnologia

A ação da Espanha agrava a crescente tensão entre governos europeus e grandes empresas de tecnologia americanas. Essas empresas contam com o apoio do governo de Donald Trump, o 47ºdent dos Estados Unidos, eleito em 2024 e com mandato até 2026.

Líderes europeus argumentam que as plataformas devem proteger os usuários. Políticos e executivos de tecnologia dos EUA argumentam que uma regulamentação rígida corre o risco de limitar a liberdade de expressão. O desacordo agora se desenrola nos tribunais e agências reguladoras.

Em dezembro, a União Europeia multou a X em 120 milhões de euros, cerca de 140 milhões de dólares, ao abrigo da Lei dos Serviços Digitais. Foi a primeira sanção aplicada com base nessa lei. Este mês, a polícia francesa realizou buscas nos escritórios locais da X no âmbito de uma investigação cibernética sobre a disseminação de pornografia infantil e negação do Holocausto na plataforma.

A Comissão de Proteção de Dados da Irlanda também entrou em ação. O órgão regulador, responsável pela aplicação do Regulamento Geral de Proteção de Dados da União Europeia, afirmou na noite de segunda-feira que abriu uma investigação formal sobre a criação e publicação do que classificou como imagens sexualizadas "potencialmente prejudiciais" produzidas pela Grok.

A preocupação reside no fato de que essas imagens podem ter envolvido o processamento de dados pessoais pertencentes a usuários na UE.

O Grok está integrado diretamente ao feed de mídia social do Google X. Ele foi desenvolvido pela xAI, empresa de IA de Elon Musk, que comprou o Google X no ano passado. No início deste mês, a xAI se fundiu com a SpaceX, empresa de foguetes de Musk. O acordo criou um grupo combinado avaliado em 1,5 trilhão de dólares.

A investigação irlandesa é a mais recente ação tomada por reguladores em todo o mundo contra o X. No início de janeiro, milhares de imagens deepfake sexualizadas de mulheres foram geradas usando o Grok. As imagens se espalharam rapidamente online. A reação foi imediata. Usuários, especialistas em segurança online e políticos reagiramtron.

Graham Doyle, comissário adjunto da agência reguladora irlandesa, afirmou que a agência já havia entrado em contato com a X após as primeiras reportagens terem surgido semanas atrás. Ele disse que essas reportagens denunciavam que usuários podiam instruir a conta @Grok na X a gerar imagens sexualizadas de pessoas reais, incluindo crianças.

Quer que seu projeto seja visto pelas mentes mais brilhantes do mundo das criptomoedas? Destaque-o em nosso próximo relatório do setor, onde dados encontram impacto.