Un estudio revela 84 casos de inundaciones provocadas por inteligencia artificial en agencias gubernamentales de todo el mundo

Un estudio que documenta 84 casos de "inundación de agentes" en 11 jurisdicciones relaciona este aumento con textos generados por IA de bajo coste.

El 87% de los picos traca una sola capacidad

Las quejas presentadas ante el defensor del pueblo de la vivienda del Reino Unido se duplicaron con creces tras la llegada de ChatGPT, pasando de 2.600 en 2022 a algo más de 7.000 en 2025.

La Oficina de Protección Financiera del Consumidor de EE. UU. (CFPB), que gestiona las quejas sobre bancos y prestamistas, recibió cinco veces más quejas a través del mismo sistema.

De manera similar, se multiplicaron las peticiones dirigidas al poder judicial brasileño y al parlamento alemán.

El artículo, escrito en colaboración por Chris Schmitz con Lewis Hammond de la Cooperative AI Foundation y Alan Chan de GovAI, se presentará el próximo mes en la Conferencia AAAI sobre IA, Ética y Sociedad, del 12 al 14 de octubre.

Además, el número de solicitudes individuales está creciendo rápidamente, y esto es lo que más preocupa a los investigadores.

La sobrecarga cuantitativa (más solicitudes) y la sobrecarga cualitativa (una sola solicitud que se vuelve más larga y compleja) no son mutuamente excluyentes. De los 84 casos, 50 muestran sobrecarga cuantitativa, 76 muestran sobrecarga cualitativa y 42 muestran ambas.

Una de las denuncias presentadas ante un tribunal social alemán superaba las 4.000 páginas.

Normalmente, el número de envíos diarios está limitado para evitar la saturación. Esto no sirve de nada cuando una persona envía un documento enorme.

Esta misma capacidad explica el 87% de los picos observados en la muestra. Los modelos de lenguaje pueden generar texto de forma económica y a gran escala.

Todavía no hay agentes que visiten por su cuenta los sitios web de las agencias.

14 de los 84 casos generaron multas o bloqueos de IP

Los investigadores comenzaron con 2.288 servicios gubernamentales en doce países, pero solo conservaron 84 que superaron tres pruebas simultáneamente.

Para que existiera un caso que justificara la reducción del coste de las solicitudes mediante inteligencia artificial, se requería evidencia de que la demanda se había modificado realmente y una declaración explícita de funcionarios o de un tercero creíble que indicara que la IA había sido la causa.

Los servicios judiciales y legales encabezaron la lista con 19 casos, seguidos de las quejas regulatorias con 10 y el bienestar y la seguridad social con 9. En 58 de los 84 casos, un funcionario del gobierno señaló directamente a la IA.

Basándose en una matriz de 13 factores, los investigadores determinaron que el mayor riesgo a corto plazo se encuentra en los servicios que generan ganancias cuando una reclamación prospera y donde la complejidad del papeleo ha frenado la demanda durante mucho tiempo, como las declaraciones de impuestos, las reclamaciones menores y las apelaciones sobre el valor de la propiedad. El estudio es cauto respecto a sus limitaciones.

Ochenta y cuatro casos no demuestran causalidad ni que los servicios en general se vean afectados. Es una prueba de existencia, no una medición.

Los gobiernos pueden reducir la demanda mediante tarifas, límites de precios o requisitos presenciales. O bien, pueden aumentar la capacidad con más personal, inteligencia artificial propia o un proceso de admisión rediseñado.

En 14 de los 84 casos, las agencias recurrieron a medidas coercitivas, restableciendo las tarifas o bloqueando rangos de IP. Australia ha considerado la posibilidad de volver a cobrar tarifas por las solicitudes de acceso a la información pública.

Pero el problema, advierte el documento, es que estas soluciones afectan de manera desproporcionada a los solicitantes más pobres y con menor dominio de la tecnología digital, cerrando la misma puerta que la IA estaba abriendo.

El Banco de Inglaterra ha advertido que los sistemas autónomos de inteligencia artificial podrían suponer una amenaza para la estabilidad financiera, y los primeros agentes ya han fallado en la práctica.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.