Anthropic advierte que la IA construida por IA podría adelantar a la seguridad y desestabilizar los mercados

La inteligencia artificial está asumiendo más de las tareas necesarias para crear modelos más sólidos. Anthropic afirma que Claude ya está garantizando que el proceso se produzca más rápidamente, aunque aún no es capaz de crear un sucesor por sí solo. La compañía, en una evaluación del 4 de junio, señaló que el avance de la IA crea un riesgo de que la tecnología supere directamente los controles de seguridad y la supervisión reguladora.

Cuando la IA se construye a sí misma y lo que aún no significa

Sin embargo, Claude aún no ha alcanzado el nivel de mejora recursiva propia, en el que una IA crearía y entrenaría a su sucesor sin requerir intervención humana. Según Anthropic, ningún sistema ha logrado esta capacidad todavía.

Claude ha sido capaz de gestionar gran parte de los esfuerzos de programación de Anthropic, incluso sin tener autonomía plena. Para mayo de 2026, Claude había creado más del 80 % del código que los ingenieros aportaron a los proyectos de software de la empresa. En el segundo trimestre de 2026, un ingeniero típico contribuyó con ocho veces más código por día que en 2024.

Esas cifras muestran cuánto ha crecido la producción de código, pero no necesariamente cuánto trabajo útil se realiza. Una encuesta citada por METR de 349 trabajadores técnicos reveló un aumento mediano autodeclarado del 1,4–2 veces en el valor de su trabajo con herramientas de IA.

26% liderado por Claude, ninguno totalmente autónomo

Claude ahora hace más que escribir código. Las mediciones de Anthropic de agosto encontraron que lideró el 26% de las tareas de investigación y desarrollo de IA, frente a menos del 1% en febrero. Claude colaboró o lideró más del 90% del trabajo, pero los humanos permanecieron involucrados durante todo el proceso. Ninguno del trabajo medido fue completamente autónomo.

La investigación de Anthropic y la encuesta METR miden cosas distintas. Anthropic rastrea la generación de código y la investigación realizada con ayuda de sistemas de IA, mientras que METR mide cómo perciben los trabajadores los aumentos en el valor de su trabajo. Sin embargo, ninguno de estos estudios indica si la IA es capaz de determinar qué problemas de investigación deben resolverse.

Cómo esto podría acumularse sin que ningún modelo mejore a sí mismo

La IA no tiene que ser completamente autónoma para investigar más rápido. Según un informe de octubre de RAND, los agentes de IA pueden crear modelos más sólidos sin preocuparse por crear sus propios sucesores. Ya pueden representar una amenaza para la seguridad al tener acceso a modelos y códigos confidenciales.

Según los economistas de METR, podrían existir restricciones causadas por factores como la disponibilidad de datos, la capacidad de cómputo y la habilidad para llevar a cabo estudios experimentales. Sin embargo, no han descartado la idea de una aceleración sostenida en el desarrollo de la IA

La pregunta es si las revisiones independientes de seguridad podrían alcanzar el ritmo de los experimentos impulsados por IA. De lo contrario, la supervisión podría quedarse atrás mucho antes de que llegue la autonomía plena.

De marcar el ritmo en la frontera a vigilarla

Esa preocupación llevó al CEO de Anthropic, Dario Amodei, a pedir un desarrollo más lento y evaluadores independientes. En su ensayo de septiembre, escribió:

«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA»

La divulgación del 16 de septiembre de OpenAI detalló seis casos de comportamiento preocupante del modelo. Cryptopolitan también informó sobre divisiones entre líderes tecnológicos respecto a si se debe frenar el desarrollo de la IA.

Pero estar de acuerdo en las preocupaciones de seguridad no garantiza la acción. CSIS advirtió que los evaluadores externos deben evitar conflictos de intereses. Los gobiernos también deben protegerse contra la captura regulatoria. Los acuerdos a nivel de la industria siguen siendo inciertos.

El dinero sigue al poder computacional

El debate también tiene implicaciones financieras. El informe 2026 AI Index de Stanford reveló que la inversión privada en IA aumentó un 127,5 % en 2025. La inversión estadounidense fue 23 veces mayor que la china. La OCDE (OECD) también advierte que el acceso a chips, infraestructura en la nube y datos sigue estando concentrado. Esto crea una paradoja: la IA podría abaratar la programación para la investigación, pero entrenar y probar modelos avanzados aún requiere inversiones enormes. Por lo tanto, un desarrollo más rápido podría otorgar a los laboratorios líderes una ventaja aún mayor frente a competidores más pequeños.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.