Las amenazas de muerte generadas por IA son alarmantemente realistas, advierte un activista australiano.

La activista australiana Caitlin Roper ha revelado que la inteligencia artificial se está utilizando para generar amenazas y abusos violentos muy realistas en línea. Según Roper, a pesar de llevar años trabajando como activista en internet, se siente traumatizada por la reciente oleada de amenazas generadas por IA que ha recibido.

Las amenazas generadas digitalmente existen desde hace algunos años, y hasta hace poco, los modelos no podían replicar a personas reales a menos que tuvieran una gran presencia en línea. Según un experto, ahora los modelos solo necesitan una foto de perfil para crear cualquier cosa que los usuarios deseen.

En 2023, un juez de Florida recibió un vídeo creado con una herramienta de personalización del videojuego Grand Theft Auto. En el vídeo aparecía un avatar con la apariencia y la forma de caminar del juez, siendo asesinado a machetazos.

Un activista australiano pide cautela en el uso de la inteligencia artificial.

Según Roper, algunas de las publicaciones que recibió formaban parte de una campaña de odio dirigida contra ella y sus colegas de Collective Shout, un grupo activista australiano presente en X y otras redes sociales. Señaló que en una de las imágenes que le enviaron aparecía colgada de una soga, mientras que en otro video se la veía en llamas gritando. Otras publicaciones eran aún más explícitas, y los usuarios no escatimaban esfuerzos para difundir su mensaje.

Roper afirmó que en la mayoría de las imágenes y videos creados con inteligencia artificial, ella llevaba un vestido azul con estampado floral que, efectivamente, le pertenece. «Son esos pequeños detalles extraños los que lo hacen parecer más real y, de alguna manera, una violación de otro tipo», dijo. «Estas cosas pueden pasar de la fantasía a algo más que fantasía». Señaló que el aluvión de acoso en línea comenzó este verano tras su campaña para clausurar los videojuegos violentos que glorificaban escenas para adultos y el abuso.

Mencionó que algunas de las cuentas e imágenes dirigidas a ella habían sido eliminadas. Roper también mencionó que la empresa afirmó que otras publicaciones que mostraban su muerte violenta no infringían los términos de servicio de la plataforma. De hecho, afirmó que X, en algún momento, incluyó una de las cuentas que la acosaban en una lista de personas recomendadas para seguir. Roper mencionó que algunos de sus acosadores también afirmaron usar Grok para investigar cómo encontrar mujeres en sus casas y en cafeterías.

Roper quiere plataformas para abordar esta amenaza.

Roper afirmó que, harta de la situación, decidió publicar algunos ejemplos. Tras hacerlo, X le comunicó que sus cuentas infringían las normas de seguridad contra la violencia gratuita y bloqueó temporalmente su cuenta.

Mientras tanto, se ha llevado a cabo una campaña mundial contra la inteligencia artificial debido a su uso para cometer estafas. Los delincuentes ahora utilizan esta tecnología para imitar las voces de personas reales, empleándola en numerosas actividades ilícitas. Otras actividades incluyen la creación de contenido para adultos con inteligencia artificial sin el consentimiento expreso de la persona afectada.

Además de este tipo de contenido, algunos informes afirman que la inteligencia artificial también está haciendo que otras amenazas sean más convincentes. Por ejemplo, el swatting consiste en realizar llamadas de emergencia falsas con el objetivo de provocar una gran movilización de la policía y los servicios de emergencia. En verano, la Asociación Nacional de Fiscales Generales señaló que esta tecnología «ha intensificado significativamente la escala, la precisión y el anonimato» de este tipo de ataques.

En menor escala, el aumento de videos creados con inteligencia artificial que simulan allanamientos de morada ha provocado que losdentafectados llamen a la policía en todo el país. El informe afirma que quienes realizan llamadas falsas a la policía pueden convencer a las fuerzas del orden de realizar denuncias falsas mediante la clonación de voces y la manipulación de imágenes. Un delincuente habitual utilizó disparos simulados para sugerir que había un tirador en el estacionamiento de una escuela secundaria del estado de Washington. El campus permaneció cerrado durante 20 minutos tras la llegada de la policía y agentes federales.

Obtén $50 gratis para operar con criptomonedas al registrarte en Bybit ahora