Anthropic advierte que una IA capaz de auto-mejorarse está próxima: se trata del concepto RSI y la compañía asegura estar muy cerca de alcanzarlo

Anthropic advirtió que su inteligencia artificial podría pronto alcanzar un nivel en el que empezaría a acelerar bruscamente el desarrollo de sus propios sucesores. La empresa reconoció que un salto así podría ocurrir más rápido de lo que los ingenieros tendrían tiempo de preparar las medidas de seguridad necesarias.

La advertencia apareció el 2 de noviembre en la documentación actualizada ante la Comisión de Bolsa y Valores de EE. UU. (SEC) que Anthropic presentó en el marco de sus preparativos para salir a bolsa. El desarrollador de Claude admitió por primera vez de forma tan precisa la posible pronta superación de un umbral interno relacionado con la mejora recursiva de la IA, o RSI (por sus siglas en inglés: Recursive Self-Improvement).

Por RSI se entiende el proceso en el que una red neuronal ayuda a crear modelos más avanzados, y las nuevas generaciones aceleran las investigaciones posteriores. En el extremo, la inteligencia artificial podría diseñar y entrenar de forma autónoma a sus propios sucesores. Sin embargo, Anthropic por ahora habla sólo de una aproximación a una aceleración brusca del desarrollo gracias a la IA, y no de autonomía total.

Según las evaluaciones internas de la empresa, los futuros modelos podrían en breve superar el umbral de «progreso fuertemente acelerado gracias a la IA» establecido por la política Responsible Scaling Policy. Ninguno de los modelos en funcionamiento ha recibido todavía ese estatus. Además, los desarrolladores reconocen que saltos previos en capacidades sólo se detectaron después de su aparición efectiva.

Ya existen motivos de preocupación. Para mayo de 2026, Claude generaba más del 80% del código que entraba en la base de código principal de Anthropic. La productividad de los ingenieros, medida por el volumen de código añadido, aumentó aproximadamente ocho veces respecto a 2024. La red neuronal también aprendió a ejecutar por sí misma tareas complejas, lanzar experimentos y buscar fallos en sistemas de software.

Sin embargo, la redacción autónoma de programas aún no equivale a la capacidad de crear una nueva IA sin intervención humana. Claude resuelve con éxito las tareas planteadas por los investigadores, pero sigue estando por detrás de los especialistas a la hora de elegir las direcciones de trabajo prometedoras. Precisamente, la capacidad de determinar los objetivos de investigación sigue siendo uno de los principales obstáculos en el camino hacia la plena auto-mejora de la IA.

En los documentos de la SEC Anthropic advierte sobre otro peligro. Errores, desviaciones ocultas y deficiencias de los modelos actuales pueden transmitirse a las siguientes generaciones, agravándose en cada nuevo ciclo de desarrollo. Con un progreso demasiado rápido, la empresa corre el riesgo de no tener tiempo para comprobar la seguridad de los sistemas y corregir los problemas que surjan.

Anthropic no cuenta con poder confiar en el futuro próximo a Claude la creación plenamente autónoma de modelos avanzados sin un control humano sustantivo. La empresa está considerando cambios en la política Responsible Scaling Policy para mantener la participación de especialistas en el desarrollo. Anteriormente, Anthropic ya había propuesto ralentizar el desarrollo de los sistemas de IA más potentes si los mecanismos de seguridad dejaran de seguir su ritmo.