Anthropic plantea una pregunta incómoda: ¿y si ya no podemos detener la IA?

Anthropic, la empresa creadora de Claude, ha reavivado uno de los debates más serios sobre el futuro de la inteligencia artificial: ¿qué pasa si la IA empieza a mejorarse a sí misma más rápido de lo que somos capaces de supervisarla?

El detonante es un ensayo publicado el 4 de junio de 2026 por el Anthropic Institute, titulado «When AI builds itself» («Cuando la IA se construye a sí misma»), firmado por Marina Favaro (responsable del instituto de investigación de Anthropic) y Jack Clark (presidente y responsable de políticas de la compañía). El texto no es una predicción especulativa: se apoya en datos internos de la propia empresa que, según reconocen, no habían hecho públicos hasta ahora.

¿Qué dice exactamente Anthropic?

La compañía no pide apagar los sistemas actuales ni detener la IA de forma inmediata. Lo que plantea es que el mundo debería tener la opción de ralentizar o pausar temporalmente el desarrollo de los modelos más avanzados, si la situación lo requiere, para dar tiempo a que la sociedad y la investigación en seguridad («alignment») puedan ponerse al día.

Pero Anthropic también reconoce el problema de fondo: una pausa solo tendría sentido si fuera global, verificable y coordinada entre varios laboratorios punteros y varios países a la vez. Si solo una empresa se detiene mientras otras siguen avanzando, el resultado podría ser peor: el liderazgo pasaría a manos de los actores menos cautelosos, sin reducir ningún riesgo real.

El propio ensayo admite que verificar un parón de este tipo es mucho más difícil que con otras tecnologías: entrenar un modelo de IA es mucho más fácil de ocultar que, por ejemplo, un silo de misiles, porque no requiere instalaciones físicas fácilmente detectables. Anthropic cita como referencia los tratados de control de armas nucleares de la Guerra Fría, que tardaron décadas en construirse —tiempo que, advierten, no tenemos en este caso.

El dato que sorprende: más del 80% del código ya lo escribe la IA

La parte más reveladora del ensayo no es la advertencia en sí, sino la evidencia interna que Anthropic aporta para justificarla. Según la compañía, en mayo de 2026 más del 80% del código que se integra en su base de software fue escrito por Claude, frente a porcentajes de un solo dígito antes de febrero de 2025, cuando se lanzó Claude Code. La propia dirección de Anthropic ha llegado a estimar públicamente que la cifra real —incluyendo scripts y código experimental— podría superar el 90%.

Como consecuencia, en el segundo trimestre de 2026 cada ingeniero de la empresa integraba, en promedio, ocho veces más código al día que en 2024. Anthropic matiza que esta cifra mide cantidad, no calidad, y que probablemente exagera la ganancia real de productividad. Pero la tendencia, dicen, es inequívoca: el papel humano se está reduciendo en cada etapa del desarrollo de IA, desde escribir código hasta diseñar y evaluar experimentos de investigación.

De los chatbots a los «agentes que construyen agentes»

Anthropic describe una evolución en cinco fases, desde los inicios de la compañía hasta un futuro todavía hipotético:

• 2021-2023: los humanos escriben todo el código a mano, como en cualquier empresa tecnológica.
• 2023-2025: aparecen los primeros chatbots, que ayudan generando fragmentos de código que las personas copian y pegan.
• 2025-2026: surgen los agentes de programación, capaces de escribir y editar archivos completos por sí mismos.
• Actualidad: los agentes autónomos ya pueden ejecutar código y delegar horas de trabajo en otros agentes.
• Futuro hipotético: los agentes podrían llegar a construir y entrenar nuevos modelos por sí mismos, cerrando el ciclo de la auto-mejora recursiva.

Este último escenario es el que da nombre al ensayo y el que más preocupa a la compañía: un sistema capaz de diseñar y desarrollar de forma completamente autónoma a su propio sucesor.

¿Por qué algunos expertos hablan de riesgos existenciales?

La preocupación por una IA que se desarrolla demasiado rápido no es nueva. En 2023, más de mil investigadores, empresarios y científicos —entre ellos Elon Musk y Steve Wozniak— firmaron una carta abierta del Future of Life Institute pidiendo una pausa temporal de seis meses en el desarrollo de los sistemas más avanzados, alegando riesgos profundos para la sociedad.

Entre los riesgos que se citan habitualmente en este debate están:

• Creación masiva de desinformación.
• Automatización de ciberataques a gran escala.
• Asistencia al desarrollo de armas biológicas o químicas.
• Pérdida de empleos en sectores enteros.
• Sistemas autónomos difíciles de supervisar.
• Concentración excesiva de poder tecnológico en pocas empresas.

El propio cofundador y CEO de Anthropic, Dario Amodei, ha llegado a cifrar en público en torno a un 25% la probabilidad de que la IA avanzada termine causando una catástrofe para la humanidad si no se gestiona con cuidado, una cifra que ha circulado ampliamente en medios especializados tras la publicación del ensayo.

¿Es pura coherencia o también estrategia?

No todo el mundo interpreta el llamamiento de Anthropic como un gesto puramente altruista. Analistas del sector han señalado que la compañía compite directamente con OpenAI y otros laboratorios por el liderazgo en IA, y que publicar este tipo de advertencias también sirve para reforzar su imagen de marca «centrada en la seguridad» frente a inversores y reguladores, además de justificar la necesidad de financiación masiva para «gestionar con cuidado» una tecnología que ellos mismos describen como extraordinariamente potente.

Anthropic, por su parte, insiste en que no busca congelar el sector en favor propio: sostiene que una pausa unilateral de un solo laboratorio «se puede lograr de inmediato, pero consigue mucho menos», porque solo cambiaría quién lidera la carrera, sin crear el proceso de deliberación global que consideran necesario.

¿Estamos cerca de una IA fuera de control?

La respuesta corta, según el propio ensayo, es no. Anthropic reconoce explícitamente que todavía no hemos llegado a la auto-mejora recursiva completa y que esta no es inevitable. Los sistemas actuales siguen dependiendo de infraestructuras, centros de datos, energía eléctrica y supervisión humana directa.

Sin embargo, la compañía advierte que la velocidad de mejora —según sus propias mediciones, la duración de las tareas que un modelo puede completar de forma autónoma se ha venido duplicando cada cuatro meses, frente a los siete meses de antes— hace imprudente esperar a que aparezcan problemas graves antes de establecer mecanismos de control. Por eso anuncian que en los próximos meses organizarán conversaciones con responsables políticos, investigadores y otras empresas del sector para abordar estas cuestiones, y que publicarán sus conclusiones.

En definitiva

La noticia no significa que Anthropic quiera apagar Claude, ChatGPT o cualquier otra IA. Lo que la compañía plantea es algo más profundo y, según sus propios datos internos, ya en marcha: si los sistemas de IA siguen acelerando su capacidad de contribuir a su propio desarrollo, la humanidad podría enfrentarse a una tecnología que avanza más rápido de lo que somos capaces de regular, entender o incluso medir con precisión.

El debate ya no es si la inteligencia artificial seguirá creciendo —eso parece dado por hecho—, sino si gobiernos, empresas y sociedad civil lograrán construir a tiempo los mecanismos de verificación y coordinación necesarios antes de que los sistemas más avanzados alcancen capacidades que hoy todavía no comprendemos del todo.

Fuentes: ensayo «When AI builds itself» del Anthropic Institute (4 de junio de 2026); cobertura de Al Jazeera, SiliconANGLE e ITdaily sobre la publicación.