Perguntas de ética cercam a solicitação XAI para vídeos de expressão facial da equipe para treinar Grok

A ética da empresa de inteligência artificial de Elon Musk está sendo questionada depois que as comunicações internas revelaram que os funcionários foram solicitados a registrar vídeos de seus rostos e expressões para treinar o grande modelo de idiomas da empresa, Grok. 

Segundo pessoas familiarizadas com o assunto, o projeto interno, apelidado de "Skippy", ocorreu em abril e envolveu mais de 200 funcionários. A iniciativa foi supostamente destinada a ajudar o sistema de IA a interpretar melhor as emoções e expressões humanas usando gravações em vídeo de conversas reais e movimentos faciais.

Alguns funcionários sentiram que a empresa estava violando seu direito à privacidade e consentimento, e não declarou claramente como seus dados seriam usados no treinamento de IA. 

Os funcionários da XAI têm problemas com o projeto 'Skippy' 

De acordo com documentos internos e comunicações frouxas obtidas pelo Business Insider, a XAI encarregou seus tutores de IA, funcionários responsáveis por refinar o modelo, com a gravação de conversas de 15 a 30 minutos com colegas de trabalho.

As sessões incluíram diálogo e expressões faciais exageradas para simular respostas emocionais do mundo real. Um indivíduo em cada par de conversas foi o "host", ou o assistente virtual, o outro usuário. 

O host foi instruído a limitar seus movimentos e ficar dentro da estrutura de uma câmera ideal, mas o usuário estava livre para gravar em um telefone ou computador celular e se mover naturalmente. As imagens resultantes foram feitas para refletir conversas casuais e da vida real.

O engenheiro principal do projeto Skippy disse aos funcionários durante uma reunião de kickoff que eles queriam "dar um rosto a Grok" e que esses dados poderiam apoiar o desenvolvimento de avatares semelhantes a humanos. 

Os bate -papos mostram que o engenheiro prometeu que os vídeos só seriam usados internamente e não criar versões digitais dos participantes, mas supostamente não estavam convencidas.

" Nosso objetivo é expor o modelo a dados imperfeitos, como ruído de fundo e movimentos abruptos, para tornar suas respostas mais versáteis ", explicou o engenheiro, de acordo com uma gravação da reunião. Eles também insistiram: " Seu rosto nunca chegará à produção. É puramente para ensinar Grok o que é um rosto ".

Apesar de tais garantias, dezenas de funcionários ficaram inquietas após serem obrigados a assinar um formulário de consentimento que concedeu da XAI para usar sua semelhança para fins de treinamento e em materiais promocionais.

Opt-out e prompts desconfortáveis

Vários trabalhadores optaram por não participar do programa, dizendo que estavam desconfortáveis com a forma como o projeto e o idioma usado nos acordos de consentimento. Durante as discussões internas, um funcionário perguntou se as filmagens poderiam ser manipuladas para simulá -las dizendo coisas que eles nunca disseram.

Como parte das sessões de gravação, a Xai incentivou os funcionários a discutir tópicos pessoais ou provocativos como: “Você namoraria alguém com uma criança?”, “Como você manipula secretamente as pessoas para conseguir o que quer?” E “e os chuveiros, de manhã ou da noite?” 

Alguns acharam os tópicos profundamente invasivos ou inapropriados.

Apenas dias após de Grok 4 em meados de julho, Xai estreou dois avatares da AI chamados Ani e Rudi. Os vídeos postados em X, a plataforma social de propriedade de Musk, mostram que a ANI pode ser solicitada a se envolver em conversas sexualmente explícitas e remover suas roupas.

Rudi, um avatar de panda vermelho, teria feito ameaças violentas, incluindo declarações sobre bombardeios e prejudicar bilionários.

Embora Xai não tenha confirmado se o projeto Skippy contribuiu diretamente para o desenvolvimento desses avatares, o silêncio está recebendo interpretações diferentes.

A Xai também lançou um recurso de bate -papo por vídeo para Grok em abril e, no início deste mês, apresentou a Grok para os proprietários da Tesla, juntamente com um nível de assinatura premium chamado Supergrok Heavy, ao preço de US $ 300 por mês.

Em 9 de julho, o recurso rápido de Grok foi brevemente fechado depois de escrever um discurso anti -semita. Mais tarde, a empresa emitiu um pedido de desculpas público em x.

Academia Cryptopolitan: Cansado de balanços de mercado? Saiba como DeFi pode ajudá -lo a criar renda passiva constante. Registre -se agora