RPT-ANÁLISIS-Musk recibe un duro golpe por los deepfakes de Grok, pero la lucha por la regulación está lejos de terminar

Por Supantha Mukherjee y Paul Sandle

ESTOCOLMO/LONDRES, 16 ene (Reuters) - El chatbot Grok de Elon Musk está poniendo a prueba la capacidad de Europa para tomar medidas drásticas contra los deepfakes y la desnudez digital de imágenes en línea, incluso después de que los reguladores se anotaran una rara victoria al obligar a xAI de Musk a frenar la creación de imágenes sexualizadas.

xAI declaró a última hora del miércoles (link) que había restringido la edición de imágenes para los usuarios de Grok AI después de que el chatbot produjera miles de imágenes sexualizadas de mujeres y menores que alarmaron a los reguladores mundiales.

La retirada de Musk, que en un principio se burló de la tendencia, pone de relieve la dificultad de vigilar las herramientas de IA que permiten crear contenido explícito de forma fácil y barata. Es el último enfrentamiento entre Europa y Musk, tras las disputas sobre la interferencia electoral (link), la moderación de contenidos y la libertad de expresión (link).

Muchos reguladores siguen esforzándose por elaborar leyes y normas que regulen la IA, con interrogantes sobre qué constituye desnudez, cómo definir el consentimiento y quién es responsable: el usuario o la plataforma.

"Se trata de una zona gris en lo que respecta a la creación de imágenes de desnudos", declaró a Reuters Ängla Pändel, abogado especializado en protección de datos y privacidad de Mannheimer Swartling, con sede en Estocolmo.

El regulador británico Ofcom, uno de los que más se ha pronunciado sobre el tema, acogió con satisfacción el movimiento de Musk, pero dijo que su investigación sobre xAI por las imágenes Grok continuaría.

"Nuestra investigación formal sigue en curso", dijo un portavoz. "Estamos trabajando sin descanso para avanzar en esto y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo"

AÚN ES NECESARIA UNA APLICACIÓN MÁS ESTRICTA DE LA LEY, SEGÚN LAS AUTORIDADES

A principios de este mes, Grok creó imágenes hiperrealistas de mujeres (link) en X manipuladas para que parecieran estar en diminutos bikinis, en poses degradantes o incluso cubiertas de moratones. Algunas menores fueron desnudadas digitalmente hasta quedar en bañador.

Hasta el miércoles, Reuters descubrió que el chatbot seguía produciendo imágenes sexualizadas en privado bajo demanda. Eso parecía haber sido frenado al menos en ciertas geografías el jueves.

xAI de Musk dijo que estaba bloqueando a los usuarios (link) para que no generasen imágenes de personas en poca ropa en "jurisdicciones en las que es ilegal". No identificó esas jurisdicciones.

En Malasia e Indonesia, el gobierno ha impuesto prohibiciones temporales a Grok (link), mientras que los reguladores de la UE y el Reino Unido calificaron las imágenes de ilegales. El Reino Unido, Francia e Italia iniciaron investigaciones (link), pero se enfrentaron a peticiones de medidas más estrictas.

"Se necesita una aplicación más estricta de la Ley de Servicios Digitales (DSA) para poner fin a las aplicaciones y plataformas que sexualizan o desnudan a mujeres y niños", declaró la eurodiputada democristiana Nina Carberry, que calificó la última medida (link) de "paso positivo".

un portavoz de la Comisión Europea declaró que, si los cambios de Grok no surtían efecto, la Comisión seguiría utilizando contra la plataforma todas las herramientas de aplicación de la Ley de Servicios Digitales de la UE.

ZONA GRIS LEGAL, PESADA CARGA PARA LAS VÍCTIMAS

Según Alexander Brown, abogado británico especializado en protección de datos de Simmons & Simmons, la Ley de Seguridad en Línea del Reino Unido tipifica como "delito prioritario" compartir imágenes íntimas sin consentimiento, incluidas las falsificaciones generadas por IA.

"Esto significa que X debe tomar medidas proactivas y proporcionadas para evitar que dicho contenido aparezca en su plataforma y para eliminarlo rápidamente cuando se detecte", dijo.

El regulador británico puede multar a una empresa con hasta el 10% de sus ingresos en los casos más graves de incumplimiento o pedir a un tribunal que obligue a los proveedores de servicios de Internet a bloquear el sitio.

Para los particulares, llevar a los tribunales a las plataformas es "un proceso realmente difícil y pesado", dijo Anders Bergsten, abogado de Mannheimer Swartling, citando el coste emocional para las víctimas.

Los deepfakes existen desde hace años (link), mucho antes de la llegada de las aplicaciones de inteligencia artificial, aunque se limitaban en gran medida a los rincones más oscuros de la web. La capacidad de publicación de X da a Grok un alcance sin precedentes.

"La capacidad de publicación sin fricciones permite que los deepfakes se extiendan a gran escala", afirma la abogada estadounidense Carrie Goldberg, que trabaja con víctimas de ciberacoso.

Las leyes británica y sueca ilegalizan el intercambio no consentido de imágenes de desnudos. Gran Bretaña está ampliando la ley para incluir la creación de tales imágenes.

Según la DSA, la suspensión de un servicio se considera el último recurso. (link) Según los expertos, la Ley de AI de la UE tampoco contempla las imágenes de adultos desnudos, sino únicamente las obligaciones de transparencia para los deepfakes.

El Primer Ministro británico, Keir Starmer, celebró el jueves la medida de X, pero advirtió: "La libertad de expresión no es la libertad de violar el consentimiento. Las imágenes de mujeres jóvenes no son propiedad pública, y su seguridad no está a debate"

"Si necesitamos reforzar más las leyes existentes, estamos preparados para hacerlo"