A Índia deu às plataformas de tecnologia 9 dias para rotular todo o conteúdo de IA e remover deepfakes em até 3 horas

A Índia acaba de lançar um desafio que pode ser impossível de cumprir. A partir de 20 de fevereiro, as empresas de mídia social que operam no país devem rotular todo conteúdo falso gerado por IA e remover deepfakes ilegais em até três horas. A tecnologia para fazer isso adequadamente ainda não existe .

As regras, anunciadas na terça-feira, pressionam plataformas como Meta, Google e X a implementarem sistemas que detectem e marquem imagens, vídeos e áudios gerados por IA antes que os usuários os vejam. As empresas também devem impedir que as pessoas removam ou ocultem essas marcações. Mesmo com bilhões em recursos, essas gigantes da tecnologia têm dificuldades para fazer com que suas ferramentas de detecção atuais funcionem de forma confiável.

A maioria das grandes plataformas já usa algo chamado C2PA, que insere informações invisíveis em arquivos para mostrar como foram criados . É como um rótulo nutricional para conteúdo digital. Quando funciona, é possível ver se uma foto foi tirada com uma câmera real ou gerada por inteligência artificial. Facebook, Instagram, YouTube e LinkedIn tentam sinalizar esse conteúdo, mas os rótulos são fáceis de passar despercebidos e muita coisa acaba escapando.

O sistema apresenta falhas graves . Ferramentas e aplicativos de IA de código aberto que criam fotos de nudez falsas frequentemente ignoram completamente o processo de rotulagem . Mesmo quando os rótulos existem, eles desaparecem durante o upload dos arquivos em muitos sites. Os defensores do C2PA vêm afirmando há anos que a tecnologia só precisa de uma adoção mais ampla para ter sucesso. A Índia está prestes a testar essa afirmação com seus 500 milhões de usuários de redes sociais.

Por que o poder de mercado da Índia muda tudo

A Índia tem 481 milhões de usuários no Instagram, 403 milhões no Facebook, 500 milhões assistindo ao YouTube e 213 milhões usando o Snapchat. A X considera a Índia seu terceiro maior mercado . Quando um país tão grande cria novas regras, as empresas globais de tecnologia normalmente ajustam seus sistemas em todos os lugares, não apenas em um único local.

Essa iniciativa surge após meses em que a Índia lidou com uma crise . Cryptopolitan noticiou em outubro passado que os atores de Bollywood Abhishek Bachchan e Aishwarya Rai Bachchan processaram a plataforma por vídeos falsos que utilizavam seus rostos, buscando uma indenização de quase meio milhão de dólares. O casal alegou que os sistemas de inteligência artificial do YouTube coletaram conteúdo público sem permissão para treinar sistemas que posteriormente criaram conteúdo falso com suas imagens. Casos como esses, juntamente com vídeos falsos que viralizaram da atriz Rashmika Mandanna, pressionaram as autoridades a agir .

O momento coincide com as ambições da Índia em IA. O Google está construindo um centro de IA de US$ 15 bilhões em Visakhapatnam, que se tornará a maior instalação da empresa fora dos Estados Unidos. O local terá poder computacional em escala de gigawatts e está previsto para ser inaugurado em julho de 2028. Com a chegada desse tipo de infraestrutura de IA, os órgãos reguladores querem que as regras de segurança de conteúdo sejam implementadas primeiro.

Críticos alertam para “censura acelerada”

Os prazos apertados preocupam os defensores da liberdade de expressão. A Internet Freedom Foundation afirma que o prazo de três horas para remoção de conteúdo forçará as empresas a usar sistemas automatizados que excluem muito conteúdo por engano. Eles chamam isso de criação de "censores de fogo rápido", porque há tempo para que humanos revisem os relatórios adequadamente.

Plataformas como a X, que não implementaram nenhum sistema de rotulagem por IA, têm agora apenas nove dias para construir sistemas completos do zero. Meta, Google e X recusaram-se a comentar. A Adobe, empresa por trás do C2PA, também se manteve em silêncio .

Os responsáveis pela elaboração das normas parecem estar cientes a tecnologia atual ainda não está pronta. Os requisitos exigem que as plataformas utilizem métodos de detecção "na medida do tecnicamente viável" – uma linguagem jurídica que admite que a perfeição não é esperada. Os líderes indianos acreditam pressão impulsionará a inovação. Eles apostam que, ao forçar as empresas de tecnologia a desenvolverem sistemas melhores ou perderem o acesso a centenas de milhões de usuários, elas encontrarão soluções rapidamente .

Resta saber se existe de fato uma tecnologia de detecção por IA melhor que possa ser desenvolvida, ou se a Índia simplesmente encomendou às empresas algo que ainda não pode ser fabricado Descobriremos em nove dias.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas .