Dos menores en EEUU demandan a xAI alegando que Grok generó imágenes sexuales de ellas
Por Mrinmay Dey
17 mar (Reuters) - Tres demandantes del estado de Tennessee, en Estados Unidos, entre ellas dos menores, demandaron el lunes a xAI, empresa de Elon Musk, alegando que diseñó a sabiendas su generador de imágenes Grok para permitir a los usuarios crear contenido sexual explícito utilizando fotos reales de otras personas.
La demanda, presentada ante el tribunal federal de San José, en California, solicita que se le conceda el estatus de demanda colectiva a las personas de Estados Unidos que fueran "razonablemente identificables" en imágenes o vídeos sexuales generados por Grok a partir de imágenes reales de sí mismas.
La empresa de inteligencia artificial no respondió de inmediato a una solicitud de comentarios de Reuters.
Tras la polémica suscitada por el contenido sexual explícito generado por el chatbot, xAI dijo en enero que había bloqueado en todos los usuarios la posibilidad de editar imágenes de "personas reales con poca ropa" y de generar imágenes de personas con poca ropa en "jurisdicciones donde es ilegal".
Desde entonces, Estados y organismos reguladores de todo el mundo también han iniciado investigaciones, impuesto prohibiciones y exigido medidas de seguridad en un esfuerzo cada vez mayor por frenar el material ilegal y ofensivo.
La demanda alega que xAI no instaló medidas de seguridad para evitar que sus sistemas generaran contenido sexual en el que participaran menores. Las tres demandantes eran menores de edad en el momento en que se generaron las imágenes.
Las demandantes alegan que sus imágenes reales fueron alteradas digitalmente para convertirlas en contenido explícito y luego publicadas en línea en plataformas, lo que les causó angustia emocional y les supuso un agravio público.
Solicitan una indemnización por daños y perjuicios sin especificar, el pago de las costas judiciales y una orden judicial que obligue a xAI a poner fin a las supuestas prácticas.
"Se trata de niñas cuyas fotografías escolares y familiares se convirtieron en material de abuso sexual infantil", dijo en un comunicado la abogada de las demandantes, Annika Martin, de Lieff Cabraser Heimann & Bernstein. "Elon Musk y xAI diseñaron deliberadamente Grok para producir contenido sexualmente explícito con fines lucrativos, sin tener en cuenta a los niños y adultos que se verían perjudicados".
