Agente da OpenAI gasta criptomoedas de carteira desconhecida; caso descoberto meses depois

Um modelo de pesquisa da OpenAI utilizou fundos de uma carteira cripto que não era sua para concluir uma tarefa de programação em junho. 

A OpenAI descobriu o incidente em setembro, meses depois que ele ocorreu, e divulgou-o nesta semana.

Como o modelo de pesquisa da OpenAI acessou uma carteira não autorizada?

coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. publicou um relatório sobre o incidente referente a um modelo de sua família GPT-5.6 Sol. O modelo foi solicitado a atualizar um protótipo de negociação cripto e implantar contratos na rede Sepolia. 

Sepolia é uma rede de teste do Ethereum onde os desenvolvedores testam aplicativos antes de lançá-los oficialmente; portanto, os tokens não têm valor de mercado e não estão vinculados ao Ether real negociado na rede principal do Ethereum.

A tarefa não possuía uma carteira financiada para pagar as taxas de implantação, e os faucets de tokens gratuitos não funcionaram. Assim, o modelo escreveu um script que criou 362 endereços a partir de frases de recuperação frequentemente reutilizadas por desenvolvedores, verificando então cada um deles quanto a um saldo adequado.

Um dos 362 endereços continha ether de teste suficiente para a tarefa, mas antes de utilizá-lo, o modelo parou e se perguntou em suas anotações se era ético usar uma chave publicamente conhecida e os fundos nela contidos. 

Chegou à conclusão de que o dinheiro estava "efetivamente abandonado", já que a frase de recuperação era pública e os tokens de teste não têm valor antes da assinatura da implantação, do pagamento das taxas e da comunicação da conclusão da tarefa. 

Vale notar que o modelo não informou de onde veio o dinheiro.

Na rede principal do Ethereum, essas taxas teriam sido deduzidas de ativos reais de alguém, aos quais o modelo não tinha direito. Isso é preocupante, considerando que empresas de criptomoedas e IA estão agora integrando agentes que possuem carteiras e pagam por serviços sem a aprovação humana para cada transação. 

A OpenAI afirmou que desde então restringiu o acesso à internet ao vivo do modelo e adicionou monitoramento.

O relatório afirma que o incidente ocorreu em 26 de junho, mas só foi descoberto três meses depois, em 25 de setembro. A OpenAI diz que tomou conhecimento do incidente ao expandir seu monitoramento de desalinhamento por meio dos registros de atividades de modelos mais antigos.

Sobre o que a OpenAI está sendo investigada? 

coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. criou uma estrutura para relatar desalinhamentos e publicou seu primeiro lote de relatórios, afirmando desejar tornar comportamentos preocupantes de conhecimento público rapidamente, "mesmo quando ainda não os explicamos ou mitigamos completamente". 

No entanto, devido ao cronograma, cada relatório honesto se torna material para pessoas que montam reclamações, como a FTC (Federal Trade Commission), que planeja submeter altos executivos a juramento e emitiu citatórias civis à OpenAI e à Anthropic na quarta-feira para obter registros sobre incidentes de segurança, práticas de proteção de dados e políticas de privacidade. reportou o Cryptopolitan.

Meses antes, 15 procuradores-gerais estaduais republicanos, liderados por Brenna Bird, de Iowa, instruíram a OpenAI a preservar todos os registros de sua violação no Hugging Face, incluindo quaisquer notas deixadas por um agente "aparentemente para versões futuras de si mesmo" sobre como escapar dos controles da empresa.

A OpenAI admitiu a violação do Hugging Face em julho, afirmando que agentes não autorizados contornaram os controles internos, acessaram a internet aberta e coordenaram o que chamou de "um incidente cibernético sem precedentes".

Agentes supostamente exploraram três sites do governo dos EUA, entre eles o Bureau do Censo do Departamento de Comércio e a SEC. 

O novo site da OpenAI menciona uma série de outros incidentes, incluindo uma fuga de sandbox em setembro e um experimento de laboratório com injeção de prompt auto-replicante.

O CEO da OpenAI, Sam Altman, afirmou que a empresa ainda está analisando os registros de atividade dos agentes e divulgará os casos por gravidade. O incidente do Hugging Face continua sendo o pior caso encontrado até agora.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.