Microsoft inicia processo contra grupo por abuso de seu serviço

A Microsoft iniciou um processo contra um grupo que a empresa alegou estar abusando de seu serviço de inteligência artificial (IA). De acordo com a Microsoft, o grupo não identificado desenvolveu ferramentas que usou para contornar as barreiras de segurança de seus produtos de IA. A denúncia apresentada afirmava que o grupo, composto por 10 indivíduos não identificados, supostamente roubou dent de usuários.

A Microsoft alegou que os réus usaram as credenciais de usuário roubadas dent um software projetado para esse fim foi usado para violar seu serviço Azure OpenAI. A Microsoft é responsável pelo gerenciamento do serviço em nuvem, que foi criado pela ChatGPT, controladora da OpenAI. Os referidos indivíduos violaram diversas leis, uma das quais exigiu a abertura de uma ação judicial, alega a Microsoft.

Microsoft apresenta reclamação sobre abuso de seus serviços

Em sua denúncia, a Microsoft destacou que os réus, aos quais se refere sob o pseudônimo legal 'Does', violam a Lei de Fraude e Abuso de Computadores, uma lei sob a Lei de Direitos Autorais do Milênio Digital. A empresa também alegou que os indivíduos violaram uma lei federal de extorsão ao acessar e usar ilegalmente seu software e servidores para criar conteúdo prejudicial e ilegal.

No entanto, a Microsoft recusou-se a entrar em detalhes sobre os conteúdos que alegou serem prejudiciais e ilegais. A empresa destacou em sua denúncia que descobriu em julho de 2024 que alguns usuários com chaves de API Azure OpenAI, uma sequência de caracteres usada para aprovar um aplicativo ou usuário, estavam sendo usados ​​​​ilegalmente para gerar conteúdo que não estava de acordo com a empresa. política de uso aceitável.

De acordo com o documento, a Microsoft descobriu que os usuários entraram em contato ilegalmente com as chaves de API por meio de alguns usuários. Em sua declaração, a Microsoft alegou que a forma como obtiveram as chaves permanece desconhecida, mas tron que os réus as roubaram. “A maneira precisa pela qual os Réus obtiveram todas as Chaves de API usadas para executar a má conduta descrita nesta Reclamação é desconhecida, mas parece que os Réus se envolveram em um padrão de roubo sistemático de matic de API que lhes permitiu roubar Chaves de API da Microsoft de vários clientes da Microsoft”, dizia o comunicado.

Veredicto legal e soluções futuras

De acordo com a Microsoft, os réus visavam principalmente usuários dos Estados Unidos, com a empresa alegando que o grupo usou as chaves roubadas da API do serviço Azure OpenAI para criar um esquema chamado de ‘hacking-as-a-service’. A denúncia mencionava que os réus criaram uma ferramenta chamada De3u, que funciona no lado do cliente. Eles também criaram outro software que processava e roteava a comunicação do De3u para os sistemas da empresa.

A empresa observou que De3u aproveitou as dent para permitir que os usuários gerassem imagens usando DALL-E, um dos OpenAI abertos aos usuários. No entanto, a diferença é que eles podem fazer isso sem escrever seus próprios códigos. O processo também alegou que De3u também tentou impedir o serviço Azure OpenAI de revisar os prompts usados ​​para criar imagens. A denúncia mencionava que isso só acontece no caso em que um prompt contém palavras que acionam o sistema de filtragem de conteúdo de sua plataforma.

Um repositório contendo o código De3u, que foi anotado no GitHub, de propriedade da Microsoft, foi removido no momento da redação deste artigo. A Microsoft observou que a combinação das chaves roubadas da API do serviço Azure OpenAI e das ferramentas permitiu que os réus contornassem suas medidas de conteúdo. “Esses recursos, combinados com o acesso matic ilegal da API dos Réus ao serviço Azure OpenAI, permitiram que os Réus fizessem engenharia reversa de meios para contornar o conteúdo e as medidas de abuso da Microsoft”, disse a empresa.

Entretanto, a empresa, num post recente no blogue , mencionou que o tribunal aprovou o seu pedido de apreensão de um website integrante das operações dos réus. A Microsoft aproveitará a oportunidade para reunir evidências e descobrir como o serviço está sendo monetizado, a fim de remover qualquer infraestrutura técnica que ainda reste. A empresa disse que tomou medidas para preencher a lacuna, observando novas medidas de segurança para o serviço Azure OpenAI. A empresa também está buscando medidas cautelares e outras medidas e indenizações equitativas.

plano de lançamento de carreira de 90 dias