Influenciadores gerados por IA inundam o Instagram e outras plataformas com dent roubadas

Isso ocorre no momento em que os criadores de conteúdo humano no Instagram dizem que agora estão competindo com conteúdo de IA de uma forma que está impactando sua viabilidade.

Com algumas das ferramentas e aplicativos de IA prontos para uso hospedados nas lojas Apple App e Google Play, as influências da IA ​​​​agora podem criar e monetizar facilmente suas contas. Segundo a Wired, eles analisaram mais de 1.000 contas do Instagram geradas pelos canais AI e Discord onde as pessoas que fazem esse conteúdo compartilham dicas e discutem estratégias e diversos guias que explicam como ganhar dinheiro através do “AI lenocínio”.

A Wired descobriu que o problema, que costumava ser menor no Instagram, cresceu e se tornou uma grande prática, em linha com várias previsões sobre o futuro cenário da mídia social, onde o conteúdo gerado pela IA eclipsa o dos humanos.

Os criadores de conteúdo adulto que promovem seu trabalho no Instagram agora estão preocupados em competir diretamente com essas contas fraudulentas de IA, muitas das quais usam fotografias e vídeos roubados de criadores de conteúdo adulto e modelos do Instagram.

Elaina St James, uma criadora de conteúdo adulto, disse que embora possa haver outras mudanças no algoritmo do Instagram que poderiam ter contribuído para isso, desde a explosão de contas de influenciadores geradas por IA no Instagram, seu “alcance caiu tremendamente”, de um típico 1 milhão para 5 milhões de visualizações por mês. Ela não arrecadou um milhão nos últimos 10 meses, e às vezes chega a menos de 500.000 visualizações.

“Esta é provavelmente uma das razões pelas quais minhas opiniões estão diminuindo. É porque estou competindo com algo que não é natural.” São Tiago.

Alexios Mantzarlis, diretor de iniciativa de segurança, confiança e proteção da Cornell Tech e ex-diretor de inteligência de confiança e segurança do Google, compilou uma lista de cerca de 900 contas na pesquisa 404 Media.

Um sinal de como serão as redes sociais em breve

Mantzarlis disse que isso não era nada totalmente novo ou surpreendente, pois apenas cumpria as previsões feitas anteriormente sobre a tecnologia de IA e sua adoção em plataformas de mídia social.

“Parecia um possível sinal de como serão as mídias sociais em cinco anos”, disse Mantzarlis.

“Porque isso pode estar chegando a outras partes da Internet, não apenas ao nicho trac de pessoas no Instagram. Este é provavelmente um sinal de que vai ser muito ruim.”

Mantzarlis.

De mais de 1.000 contas de influenciadores do Instagram geradas por IA, pelo menos 100 incluíam conteúdo deepfake que pegava vídeos existentes, geralmente de modelos e artistas de entretenimento adulto, e substituía seus rostos por outros gerados por IA para dar uma aparência nova aos vídeos.

Os vídeos parecerão conteúdo novo e original, consistente com outras imagens e vídeos gerados por IA, compartilhados pelo influenciador gerado por IA.

Instagram agirá ao receber reclamações

O Instagram disse que tomaria medidas em relação às contas somente se elas fossem denunciadas pelo proprietário do direito ou por alguém autorizado a denunciar em seu nome. No entanto, muitos influenciadores humanos dizem que o canal fornecido não tem funcionado porque têm muitos relatos de imitadores para seguir.

St James acrescentou que o fato de muitas dessas contas de influenciadores geradas por IA serem operadas por mim acrescenta insulto à injúria.

“Nós, como mulheres no mundo, ganhamos menos dinheiro. Estamos em desvantagem em vários aspectos. Uma área do mundo onde temos uma vantagem é o influenciador e a modelagem, então é apenas uma camada extra”, disse St James.

“Fico um pouco desanimada por ser um cara que está ganhando dinheiro fingindo ser mulher”, acrescentou ela.

A Apple , que até agora não conseguiu resolver o problema do “uso duplo” de aplicativos de troca de rosto que podem ser usados ​​inocentemente, mas são frequentemente usados ​​para criar conteúdo não consensual, foi removida da App Store depois de ser questionada sobre o assunto.

Do zero ao Web3 Pro: seu plano de lançamento de carreira de 90 dias