Empresas chinesas usaram Claude para melhorar seus próprios modelos, diz Anthropic

23 Fev (Reuters) - Três empresas chinesas de inteligência artificial usaram o Claude para obterem indevidamente recursos para melhorarem seus próprios modelos, disse a criadora do chatbot, Anthropic, nesta segunda-feira, após uma divulgação semelhante feita pela OpenAI no início deste mês.

A OpenAI alertou parlamentares dos Estados Unidos que a startup chinesa de inteligência artificial DeepSeek está visando a companhia e as principais empresas de IA norte-americanas para replicar modelos e usá-los para seu próprio treinamento, mostrou um memorando visto pela Reuters.

DeepSeek, Moonshot e MiniMax criaram mais de 16 milhões de interações com o Claude usando cerca de 24 mil contas falsas, violando os termos de serviço e as restrições de acesso regional da Anthropic, disse a empresa.

As companhias chinesas usaram uma técnica chamada “destilação”, que envolve fazer com que um modelo de IA mais antigo, mais estabelecido e poderoso avalie a qualidade das respostas geradas por um modelo mais novo, transferindo efetivamente os aprendizados do modelo mais antigo, disse a Anthropic.

“Essas campanhas estão crescendo em intensidade e sofisticação. A janela para agir é estreita e a ameaça se estende além de qualquer empresa ou região.”

A operação da DeepSeek visava capacidades de raciocínio em diversas tarefas e a criação de alternativas à censura para consultas sensíveis a políticas, enquanto a Moonshot visava o raciocínio agêntico e o uso de ferramentas, bem como codificação e análise de dados.

A MiniMax tinha como alvo a codificação agêntica, o uso de ferramentas e a orquestração, e a Anthropic detectou a campanha enquanto ela ainda estava ativa — antes que a MiniMax lançasse o modelo que estava treinando.

“Quando lançamos um novo modelo durante a campanha ativa d MiniMax, eles mudaram de rumo em 24 horas, redirecionando quase metade do tráfego para capturar os recursos do nosso sistema mais recente”, disse a Anthropic.

Representantes da DeepSeek, Moonshot e MiniMax não responderam imediatamente a pedidos de comentários.

(Por Juby Babu)

((Tradução Redação São Paulo, 55 11 56447753))

REUTERS AAJ