El plan de IA de Elon Musk para el Seguro Social está causando grandes problemas

El viernes, la Administración del Seguro Social lanzó un nuevo chatbot de estilo chatgpt llamado "Compañero de soporte de agencia". La herramienta estaba destinada a ayudar al personal a manejar tareas de rutina y aumentar la productividad. En cambio, los empleados dicen que apenas funciona, y un lanzamiento mal administrado ha dejado a muchos preguntándose si la automatización es el camino correcto para la agencia de servicios sociales más grandes de Estados Unidos.

En los últimos meses, la organización de Musk, conocida internamente como Dege , ha reducido agresivamente a las agencias federales al reducir los empleos y los presupuestos. El impulso hacia un modelo "AI-First" tiene como objetivo reemplazar a los trabajadores humanos con software siempre que sea posible. Como parte de esa estrategia, el nuevo chatbot se integró en los flujos de trabajo cotidianos de los empleados de la agencia, informados por Wired, con la promesa de aliviar su carga de trabajo.

Un correo electrónico interno lo describió como una forma de "ayudar a los empleados con tareas cotidianas y mejorar la productividad", pero en la práctica, la aplicación ha recibido poca atención.

Las fuentes dentro de la agencia dicen que el despliegue fue acompañado por un video de entrenamiento dolorosamente malo con una mujer mal animada y de cuatro dedos. Se suponía que el clip guiaría a los usuarios a través de las características de la aplicación, pero no pudo advertir al personal contra la carga de datos personales confidenciales. Este resbalón obligó a la agencia a enviar una lectura de correo electrónico de seguimiento, "Nuestras disculpas por la supervisión en nuestro video de capacitación", para advertir a los empleados sobre el riesgo.

Pocas personas se han tomado en serio el video de capacitación de SSA AI

"No estoy seguro de que la mayoría de mis compañeros de trabajo incluso vieron el video de entrenamiento", dijo un empleado de la Seguridad Social a Wired. Agregaron que cuando probaron el chatbot, "varias de las respuestas que recibí fueron increíblemente vagas y/o inexactas". Según los informes, otros empleados se burlaron de los gráficos crudos. "Nadie que conozco lo está [usando]. Es tan torpe y malo", dijo la fuente.

Los críticos advierten que este tropiezo puede presagiar fallas más amplias.

Del mismo modo, en Brasil, durante 2018, una compañía estatal llamada Dataprev lanzó MEU INSS, una aplicación diseñada para procesar reclamos del Seguro Social utilizando la visión por computadora y el procesamiento del lenguaje natural. Sin embargo, el sistema a menudo ha rechazado reclamos válidos debido a errores menores, lo que provoca largas apelaciones legales.

Un ejemplo involucra a Josélia de Brito, de 55 años, una ex trabajadora de caña de azúcar cuya solicitud de jubilación fue denegada porque el sistema automatizadodentsu género. "Tengo todos los documentos que prueban mi estado de salud, lo demuestran todo, y [el beneficio] todavía se niega. Es una humillación", dijo al resto de World.

Los trabajadores agrícolas rurales, muchos de los cuales carecen de habilidades digitales básicas, han luchado con el cambio a los servicios en línea. "La gente aquí afuera no puede [incluso] trabajar con Gmail, Facebook, Instagram", dijo Francisco Santana,dent del sindicato para trabajadores rurales de Barra do Corda. "Los procesos se están volviendo cada vez más automatizados, y la sociedad no estaba lista para ello, especialmente más lejos, en las afueras, para las personas que viven en áreas rurales".

Esos obstáculos en el extranjero destacan potenciales dificultades para los Estados Unidos

Los servicios sociales ya están bajo presión para "modernizarse", un impulso que comenzó bajo el equipo de los llamados tecnócratas de la Administración Trump.

El dux que Musk ha llevado esa misión más allá al tratar de cortar la fuerza laboral federal a la mitad. "Todo lo que puede ser automatizado será.

El énfasis de Doge en la automatización ha criado confusión en lugar de eficiencia.

Un contratiempo reciente en la SSA ilustra las apuestas. Según los informes, el personal de DOGE marcó "innumerables" beneficiarios de beneficios de vida como "muertos", cortando sus pagos. "Alrededor de 4 millones de personas, las marcaron como muertas", dijo Rennie Glasgow, analista técnico de reclamos desde hace mucho tiempo de la agencia, hablando con The Daily Beast. "Nos están enviando un correo electrónico diciendo:" Si estas personas entran en la oficina con su IdentIfication, puede restablecerlas ". Ese proceso de restablecimiento puede tomar" aproximadamente tres o cuatro días ", agregó Glasgow, ya que el personal debe" resucitar "manualmente a cada destinatario en el sistema.

Más allá de detener los beneficios, Dege también planea reescribir toda la base de código de software de la SSA en cuestión de meses. Las fuentes dicen que para cumplir con esa fecha límite, el equipo seguramente dependerá de la IA para la codificación, una práctica que exige una supervisión cercana debido a la alta tasa de error en el código generado por la máquina.

el récord de Doge Rocky trac K hasta ahora, una revisión automatizada podría introducir aún más caos.

Algunos observadores sospechan que esos errores pueden ser intencionales. Una escuela de críticos argumenta que el objetivo de Doge no es una reforma genuina, sino más bien la desestabilización de la SSA para allanar el camino para la privatización. Si es así, los fallas y el caos pueden ser exactamente lo que el equipo de Musk apunta.

Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar