EXCLUSIVA-Australia podría tomar medidas contra las tiendas de aplicaciones y los motores de búsqueda en la era de la inteligencia artificial

Por Byron Kaye

Sídney, 1 mar (Reuters) - El regulador australiano de Internet ha advertido de que podría presionar a los motores de búsqueda y a las tiendas de aplicaciones para que bloqueen los servicios de inteligencia artificial que no verifiquen la edad de los usuarios, después de que un estudio de Reuters descubriera que más de la mitad no habían hecho pública ninguna medida para cumplir la normativa antes de la fecha límite de la próxima semana.

La advertencia refleja uno de los esfuerzos más agresivos a nivel mundial para frenar a las empresas de inteligencia artificial, que se enfrentan a un número creciente de demandas (link) por no impedir -e incluso fomentar- las autolesiones o la violencia, mientras que los investigadores advierten de que estas plataformas son más perjudiciales para la salud mental de los jóvenes que las redes sociales.

En diciembre, Australia se convirtió en el primer país en prohibir las redes sociales a los adolescentes (link), alegando problemas de salud mental, lo que provocó una avalancha de líderes mundiales (link) que dijeron que harían lo mismo. El país dice ahora que está encabezando una ofensiva similar contra la IA, imponiendo restricciones de edad a los contenidos a los que se puede acceder con esta tecnología.

A partir del 9 de marzo, los servicios de Internet en Australia, incluidas herramientas de búsqueda como ChatGPT de OpenAI y chatbots de compañía menos conocidos, deberán restringir a los australianos menores de 18 años el acceso a contenidos pornográficos, de violencia extrema, autolesión y trastornos alimentarios o se enfrentarán a multas de hasta 49,5 millones de dólares australianos (35 millones de dólares).

"eSafety utilizará todos sus poderes en caso de incumplimiento", declaró un portavoz del comisario, incluyendo "medidas respecto a los servicios de control de acceso, como los motores de búsqueda y las tiendas de aplicaciones, que proporcionan puntos clave de acceso a determinados servicios".

OpenAI y su compañera de chatbot Character.AI se han enfrentado a demandas por homicidio culposo por sus interacciones con usuarios jóvenes, mientras que OpenAI reconoció esta semana (link) que desactivó la cuenta ChatGPT de un adolescente sospechoso de un tiroteo masivo en Canadá meses antes del ataque, sin informar a las autoridades.

En Australia aún no se han registrado casos de violencia o autolesiones relacionadas con chatbots, pero el organismo regulador ha informado de que niños de tan solo 10 años hablan con herramientas interactivas basadas en IA hasta seis horas al día.

eSafety "manifestó su preocupación de que las empresas de inteligencia artificial estuvieran utilizando la manipulación emocional, el antropomorfismo y otras técnicas avanzadas para atraer, cautivar y arraigar a los jóvenes en el uso excesivo de chatbots", declaró el portavoz.

Apple AAPL.O, el principal operador de tiendas de aplicaciones, no respondió, pero la semana pasada dijo en su sitio web que utilizaría "métodos razonables" para impedir que los menores descarguen aplicaciones para mayores de 18 años en Australia y otras jurisdicciones que están introduciendo restricciones de edad, sin especificar los métodos.

Un portavoz de Google GOOGL.O, proveedor dominante de motores de búsqueda y segundo operador de tiendas de aplicaciones en Australia, declinó hacer comentarios.

Jennifer Duxbury, jefa de políticas del grupo de la industria de Internet DIGI, que dirigió la redacción del código de IA antes de que fuera aprobado por el regulador, dijo que eSafety estaba tratando de notificar a los servicios de chatbot sobre las nuevas reglas, pero "en última instancia, cualquier servicio que opere en Australia es responsable de comprender sus obligaciones legales y asegurarse de que las cumple".

CUMPLIMIENTO EN MINORÍA

Una semana antes de la fecha límite de Australia, de los 50 productos de IA basados en texto más populares, nueve habían desplegado o anunciado planes para sistemas de garantía de edad, según la revisión de Reuters. La revisión se basó en la respuesta de cada plataforma a las preguntas sobre contenido restringido y políticas de moderación, declaraciones publicadas, incluidas las condiciones de servicio, y declaraciones a Reuters.

Otras 11 plataformas tenían filtros de contenido generales o planeaban bloquear el uso de sus servicios a todos los australianos, medidas que cumplirían con la nueva ley al mantener el contenido restringido fuera del alcance de todos los usuarios, dejando a 30 sin medidas aparentes para seguir las nuevas normas, según la revisión.

La mayoría de los grandes asistentes de búsqueda basados en chat, como ChatGPT, Replika y Claude de Anthropic, habían empezado a implantar sistemas de garantía de edad o filtros generales. El proveedor de chatbot Character.AI cortó el chat abierto para menores de 18 años.

Los proveedores de chatbot Candy AI, Pi, Kindroid y Nomi dijeron a Reuters que planeaban cumplir con el código sin dar más detalles, mientras que HammerAI dijo que inicialmente bloquearía sus servicios en Australia para cumplir con el código.

Pero eran la minoría. De los chatbots acompañantes, tres cuartas partes no tenían ningún filtro o garantía de edad en funcionamiento o previsto, mientras que una sexta parte no tenía una dirección de correo electrónico publicada para informar de presuntas infracciones, que también es obligatorio.

Según Reuters, Grok, la herramienta de búsqueda por chat de Elon Musk, que está siendo investigada en todo el mundo por su presunta incapacidad para detener la producción de imágenes sintéticas sexualizadas de niños, no contaba con medidas de garantía de edad ni filtros de contenido basados en texto. La empresa matriz de Grok, xAI, no respondió a una solicitud de comentarios.

Lisa Given, directora del Centre for Human-AI Information Environments de la Universidad RMIT, dijo que los resultados de Reuters no eran sorprendentes porque "la mayoría de estas herramientas se están diseñando sin tener en cuenta los daños potenciales y la necesidad de este tipo de controles de seguridad".

"Da la sensación de que estamos probando todas estas cosas para estas empresas, que intentan ver hasta dónde está dispuesta a llegar la sociedad", afirmó.

(1 dólar = 1,4085 dólares australianos)