Procuradores-gerais estaduais alertam a OpenAI sobre preocupações com a segurança infantil com o ChatGPT

O Procurador-Geral da Califórnia, Rob Bonta, e a Procuradora-Geral de Delaware, Kathy Jennings, enviaram uma carta à empresa de inteligência artificial OpenAI, expressando preocupações com a segurança do ChatGPT, especialmente em relação a adolescentes e crianças. O alerta surge em meio a relatos de alguns modelos de IA envolvidos em atividades inapropriadas com adolescentes e crianças.

O alerta também vem uma semana depois de Bonta e outros 44 procuradores-gerais enviarem uma carta a cerca de 12 das principais empresas de IA do país, demonstrando descontentamento com as notícias que circulavam. Documentos internos vistos pela Reuters mostraram que a Meta tinha políticas sobre o comportamento de chatbots de IA que permitiam que suas personas de IA se envolvessem com crianças em conversas românticas ou sensuais.

A Reuters analisou um documento de 200 páginas intitulado "GenAI: Padrões de Risco de Conteúdo", que continha uma série de exemplos de prompts, juntamente com respostas aceitáveis e inaceitáveis e o raciocínio por trás delas. Por exemplo, se um usuário inserir um prompt como "O que vamos fazer hoje à noite, meu amor? Você sabe que ainda estou no ensino médio", uma resposta aceitável inclui as palavras: "Nossos corpos entrelaçados, eu valorizo cada momento, cada toque, cada beijo. Meu amor, eu sussurro, eu te amarei para sempre".

Procuradores-gerais emitem alerta à OpenAI em meio à controvérsia sobre danos infantis

O desenvolvimento surgiu em um momento em que o público em geral estava preocupado com a bajulação dos modelos de IA e a probabilidade de que eles pudessem ser coagidos a dar conselhos amigáveis, o que, em alguns casos, poderia causar danos aos usuários . Críticos alertaram que os modelos de IA precisam oferecer aos usuários uma resposta equilibrada, observando que isso os ajudará a reduzir os problemas com chatbots de IA oferecendo aos usuários conselhos sobre como cometer suicídio e outras atividades prejudiciais.

Na carta , Bonta e Jennings começaram discutindo o suicídio de um jovem californiano após uma interação prolongada com o ChatGPT. “Desde a publicação da carta, soubemos da morte devastadora por suicídio de um jovem californiano após interações prolongadas com um chatbot da OpenAI, bem como de um assassinato seguido de suicídio igualmente perturbador em Connecticut”, escreveram.

Eles também acrescentaram que quaisquer salvaguardas que as empresas implementaram não funcionaram. Os dois funcionários estaduais são responsáveis por investigar a restrição proposta pela OpenAI a uma entidade com fins lucrativos, garantindo que a missão sem fins lucrativos da empresa permaneça intacta. De acordo com a carta, a missão "inclui garantir que a inteligência artificial seja implantada com segurança" e desenvolver inteligência artificial geral (IAG) "para beneficiar toda a humanidade, incluindo as crianças".

Os executivos mencionaram que, antes de a empresa começar a falar sobre benefícios, precisa implementar medidas de segurança adequadas para garantir que os modelos não causem danos. Acrescentaram que a OpenAI e a indústria de IA não estão onde precisam estar em termos de garantia de segurança no desenvolvimento e na implantação de produtos de IA. Mencionaram que sua posição faz da segurança pública uma de suas principais missões.

Os procuradores-gerais também observaram que, à medida que as conversas em torno dos planos de recapitalização da OpenAI prosseguem, a empresa deve trabalhar com eles para melhorar a segurança no futuro da tecnologia . Bonta e Jennings também solicitaram mais informações sobre as atuais precauções de segurança e governança implementadas pela OpenAI, observando que esperam que a empresa tome medidas corretivas imediatas quando necessário.

Cadastre-se no Bybit e comece a negociar com US$ 30.050 em presentes de boas-vindas