EXCLUSIVO-A Austrália afirma que poderá tomar medidas contra lojas de aplicativos e mecanismos de busca em uma repressão na era da inteligência artificial.

Por Byron Kaye

SYDNEY, 1 Mar (Reuters) - O órgão regulador da internet na Austrália afirmou que poderá pressionar mecanismos de busca e lojas de aplicativos a bloquearem serviços de inteligência artificial que não verifiquem a idade dos usuários, após uma análise da Reuters constatar que mais da metade deles não havia divulgado nenhuma medida para se adequar até o prazo final da próxima semana.

O alerta reflete um dos esforços mais agressivos em nível global para conter as empresas de IA, que enfrentam um número crescente de processos judiciais. (link) por não conseguirem impedir – e até mesmo incentivarem – a automutilação ou a violência, enquanto pesquisadores alertam que essas plataformas são mais prejudiciais à saúde mental dos jovens do que as redes sociais.

Em dezembro, a Austrália tornou-se o primeiro país a proibir o uso de redes sociais por adolescentes (link) , citando preocupações com a saúde mental, o que levou a um manifestação de líderes mundiais (link) afirmando que fariam o mesmo. O país agora diz estar liderando uma repressão semelhante à IA, impondo restrições de idade ao conteúdo que as pessoas podem acessar com a tecnologia.

A partir de 9 de março, Os serviços de internet na Austrália, incluindo ferramentas de busca como o ChatGPT da OpenAI e chatbots complementares menos conhecidos, devem restringir o acesso de australianos menores de 18 anos a conteúdo pornográfico, de violência extrema, de automutilação e de distúrbios alimentares, sob pena de multa de até A$ 49,5 milhões (US$ 35 milhões).

"A eSafety utilizará todos os poderes disponíveis em casos de descumprimento", afirmou um porta-voz do comissário, incluindo "medidas em relação a serviços de controle de acesso, como mecanismos de busca e lojas de aplicativos, que fornecem pontos de acesso essenciais a determinados serviços".

A OpenAI e a startup de chatbots Character.AI enfrentaram processos por homicídio culposo devido às suas interações com usuários jovens, enquanto a OpenAI reconheceu (link) esta semana que desativou a conta ChatGPT de um adolescente suspeito de um massacre no Canadá meses antes do ataque, sem informar as autoridades.

A Austrália ainda não registrou casos de violência ou automutilação relacionados a chatbots, mas o órgão regulador informou ter recebido relatos de crianças de apenas 10 anos que interagem com essas ferramentas interativas com inteligência artificial por até seis horas diárias.

eSafety O porta-voz afirmou estar "preocupado com o fato de empresas de IA estarem utilizando manipulação emocional, antropomorfismo e outras técnicas avançadas para atrair, introduzir e fidelizar jovens ao uso excessivo de chatbots".

A Apple AAPL.O, principal operadora da loja de aplicativos, não respondeu, mas afirmou em seu site na semana passada que usaria "métodos razoáveis" para impedir que menores de idade baixassem aplicativos para maiores de 18 anos na Austrália e em outras jurisdições que estão introduzindo restrições de idade, sem especificar quais seriam esses métodos.

Um porta-voz do Google GOOGL.O, principal provedor de mecanismos de busca da Austrália e segunda maior operadora de lojas de aplicativos, recusou-se a comentar.

Jennifer Duxbury, chefe de políticas do grupo da indústria da internet DIGI, que liderou a elaboração do código de IA antes de sua aprovação pelo órgão regulador, disse que a eSafety estava tentando notificar os serviços de chatbot sobre as novas regras, mas "em última análise, qualquer serviço que opere na Austrália é responsável por entender suas obrigações legais e garantir que as cumpra".

CONFORMIDADE NA MINORIA

Uma semana antes do prazo final na Austrália, dos 50 produtos de IA baseados em texto mais populares, nove haviam implementado ou anunciado planos para sistemas de verificação de idade, segundo análise da Reuters. A análise baseou-se nas respostas de cada plataforma a solicitações sobre políticas de conteúdo restrito e moderação, em declarações publicadas, incluindo termos de serviço, e em declarações à Reuters.

Outras 11 plataformas tinham filtros de conteúdo abrangentes ou planejavam bloquear o acesso de todos os australianos ao serviço, medidas que estariam em conformidade com a nova lei, impedindo o acesso de todos os usuários a conteúdo restrito. Assim, 30 plataformas não tomaram nenhuma medida aparente para seguir as novas regras, segundo a análise.

A maioria dos grandes assistentes de busca baseados em chat, como ChatGPT, Replika e Claude da Anthropic, começou a implementar sistemas de verificação de idade ou filtros gerais. O provedor de chatbots Character.AI bloqueou o chat aberto para menores de 18 anos.

Os fornecedores de chatbots complementares Candy AI, Pi, Kindroid e Nomi disseram à Reuters que planejam cumprir as exigências, sem dar mais detalhes, enquanto a HammerAI afirmou que bloqueará seus serviços na Austrália inicialmente para se adequar ao código.

Mas esses eram minoria. Dos chatbots complementares, três quartos não tinham filtragem funcional ou planejada, nem verificação de idade, enquanto um sexto não tinha um endereço de email publicado para relatar suspeitas de violações, o que também é obrigatório.

A ferramenta de busca por chat Grok, de Elon Musk, que está sob investigação global por suspeita de não ter impedido a produção de imagens sintéticas sexualizadas de crianças, não possuía medidas de verificação de idade nem filtros de conteúdo baseados em texto, segundo apurou a Reuters. A xAI, empresa controladora do Grok, não respondeu ao pedido de comentário.

Lisa Given, diretora do Centro de Ambientes de Informação Humano-IA da Universidade RMIT, afirmou que as descobertas da Reuters não foram surpreendentes, pois "a maioria dessas ferramentas está sendo projetada sem levar em conta os possíveis danos e a necessidade desses tipos de controles de segurança".

"Parece que... estamos testando todas essas coisas em versão beta para essas empresas, e elas estão tentando ver até onde a sociedade está disposta a ser pressionada", disse ela.

(US$ 1 = 1,4085 dólares australianos)