Alemanha alerta para os riscos de imagens do Holocausto geradas por inteligência artificial nas redes sociais

A Alemanha alertou as plataformas de redes sociais sobre a disseminação de imagens falsas do Holocausto geradas por inteligência artificial. O governo e instituições de memória do Holocausto pediram às plataformas de redes sociais que interrompam a disseminação de imagens falsas, que, segundo eles, distorcem e banalizam a história.

Em uma carta recente, memoriais e centros de documentação de campos de concentração expressaram preocupação, criticando o aumento de imagens manipuladas ou dent inventados , como encontros entre prisioneiros de campos de concentração e seus libertadores ou crianças atrás de cercas de arame farpado.

A Alemanha quer impedir a disseminação de imagens falsas sobre um holocausto atribuído à inteligência artificial

Na carta enviada pelas organizações, elas observaram que o conteúdo gerado por IA distorce a história ao banalizar eventos sérios que ocorreram há muito tempo. Mencionaram que tais imagens podem contribuir para alimentar a desconfiança entre os usuários de documentos históricos autênticos. Wolfram Weimer, ministro de Estado da Cultura e da Mídia da Alemanha, manifestou seu apoio às medidas e aos esforços empreendidos pelas instituições de memória neste caso, afirmando que se trata da decisão correta.

Wolfram também mencionou que apoiava a decisão de que as imagens geradas por IA dos antigosdentfossem sinalizadas e, quando necessário, removidas das plataformas de mídia social. Ele mencionou que se trata de uma questão de respeito aos milhões de pessoas que foram mortas e perseguidas sob o regime de terror da Alemanha nazista. De acordo com a carta das instituições de memória, elas observaram que os criadores das imagens pareciam estar usando-as para gerar atenção online e ganhar dinheiro.

As organizações também mencionaram que os perpetradores tinham a intenção, em parte, de distorcer os fatos, inverter os papéis de vítima e perpetrador e disseminar narrativas revisionistas. Entre as instituições estão memoriais de Belsen, Buchenwald, Dachau e outros campos de concentração onde judeus, assim como outros grupos, incluindo ciganos e sinti, foram mortos. Elas pediram às plataformas de mídia social que agissem proativamente contra imagens falsas geradas por IA relacionadas ao Holocausto, em vez de esperar que os usuários as denunciassem.

Organizações ligadas ao Holocausto querem que imagens geradas por IA sejam rotuladas

Além disso, eles pediram às plataformas que rotulassem claramente o conteúdo, pois acreditam que isso impedirá que os usuários que geraram as imagens possam monetizá-las. A disseminação de conteúdo de baixa qualidade gerado por IA, incluindo textos, imagens ou vídeos falsos, gerou alarme entre muitos especialistas. Eles acreditam que isso poluirá o cenário da informação e dificultará a distinção entre verdade e mentira por parte dos usuários. Odent ocorre após outro problema que empresas de IA, principalmente a xAI de Elon Musk, proprietária do chatbot Grok, estão enfrentando atualmente.

A empresa tem estado sob pressão nas últimas semanas devido a certos usuários que geraram milhares de imagens deepfake sexualizadas de mulheres e menores e as espalharam por diversas plataformas de redes sociais. A ameaça levou vários líderes de países a exigirem providências da empresa, enquanto outros pediram que ela desenvolvesse as salvaguardas apropriadas para lidar com os incidentes dent Países como a Indonésia também anunciaram uma proibição temporária do chatbot até que a situação seja resolvida.

Entretanto, a plataforma confirmou que irá bloquear geograficamente a capacidade dos usuários do Grok e do X de gerarem deepfakes de pessoas em locais onde essas ações são consideradas ilegais. Resta saber, porém, se as novas medidas de segurança se aplicarão ao aplicativo independente ou ao site. Também resta saber se as medidas impedirão os usuários de gerar esse tipo de imagem ou se os levarão a buscar novas formas de acessar o serviço.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer receber? Junte-se a eles .