Meta congela o acesso de adolescentes à IA até que haja uma reformulação mais segura

A Meta anunciou que está desativando o acesso de todos os adolescentes aos seus personagens de IA em todos os aplicativos do mundo.

"A partir das próximas semanas, os adolescentes não poderão mais acessar personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta", escreveu a Meta em uma postagem no blog.

A empresa declarou em uma postagem atualizada em seu blog que essa regra abrange qualquer pessoa que tenha informado uma data de nascimento de adolescente e também aqueles que dizem ser adultos, mas que são suspeitos de serem adolescentes pela tecnologia de previsão de idade.

A Meta bloqueou o acesso quando os pais exigiram informações mais claras e maior controle sobre as interações de seus filhos adolescentes com a IA.

A empresa planejava lançar esses recursos este ano, mas decidiu desativar completamente os personagens de IA.

A Meta planeja personagens de IA específicos para cada faixa etária

A empresa pretende criar um personagem de IA especial para adolescentes. A Meta afirmou que os novos personagens de IA para adolescentes incluirão controles parentais.

Os novos personagens darão respostas adequadas à idade e se concentrarão em educação, esportes e hobbies.

Em outubro, a Meta introduziu controles parentais para personalizar a forma como os adolescentes interagem com a IA em seus aplicativos. Os novos recursos restringiram o acesso dos adolescentes a conteúdo de violência extrema, nudez e uso explícito de drogas, seguindo a classificação indicativa PG-13.

Poucos dias depois, a empresa lançou ferramentas para gerenciar personagens de IA, permitindo que pais e responsáveis trac os usuários e restringissem o acesso a personagens específicos. A Meta afirmou que os pais poderiam desativar completamente os chats com personagens de IA.

Na quinta-feira, a Wired afirmou que a Meta tentou restringir a coleta de informações sobre os efeitos das redes sociais na saúde mental dos adolescentes e relatórios relacionados.

A empresa deseja remover qualquer menção a um caso recente de suicídio de um adolescente ligado às redes sociais, bem como referências às finanças da Meta, às atividades de seus funcionários e aos anos de Mark Zuckerberg em Harvard.

A decisão da Meta de suspender a criação de personagens adolescentes com inteligência artificial ocorre pouco antes de um julgamento no Novo México, onde a empresa enfrenta acusações de não proteger crianças em seus aplicativos.

Alega-se que a Meta não protegeu menores contra aliciamento online, tráfico de pessoas e abuso sexual em seus sites.

Meta declarou em petições pré-julgamento que o júri deveria decidir apenas se Meta violou a Lei de Práticas Desleais do Novo México em relação à segurança infantil e à saúde mental dos jovens. 

Outras questões, como suposta interferência eleitoral, desinformação ou violações de privacidade, não devem ser consideradas.

Além do caso no Novo México, a Meta enfrentará um julgamento na próxima semana por causar dependência em redes sociais. 

A autora da ação, de 19 anos, conhecida como KGM, alegou que o algoritmo das plataformas causou dependência e prejudicou sua saúde mental.

É provável que o CEO Mark Zuckerberg preste depoimento quando o julgamento começar.

Plataformas online restringem o acesso de adolescentes

As plataformas de redes sociais e as empresas de inteligência artificial mudaram a experiência dos adolescentes devido a processos judiciais que alegam que elas contribuíram para a automutilação. 

Em 20 de janeiro, a OpenAI introduziu recursos de previsão de idade no ChatGPT para detectar e aprimorar as medidas de segurança para usuários mais jovens.

O modelo de previsão de idade do ChatGPT analisa dados comportamentais e da conta, como a idade declarada do usuário, a idade da conta, os horários de atividade e as tendências de uso.

Na semana passada, o TikTok introduziu na Europa uma tecnologia de IA para detectar e excluir contas de usuários menores de 13 anos. 

O sistema de controle de idade por IA examina detalhes do perfil, vídeos e hábitos de publicação paradentcontas de menores de idade. O recurso será lançado nas próximas semanas.

Outras plataformas online, como Instagram, YouTube, TikTok e Roblox, adotaram medidas de restrição de idade.

Reivindique seu lugar gratuito em uma comunidade exclusiva de negociação de criptomoedas - limitada a 1.000 membros.