¿Las redes neuronales comienzan a mirar dentro de su propia «mente»? Experimentos plantean una incómoda pregunta sobre la conciencia de las máquinas

Las redes neuronales aprendieron a detectar cuando los investigadores intervienen en su funcionamiento interno y cambian artificialmente la actividad asociada a ciertos conceptos. En experimentos con Qwen y Llama, los modelos reconocieron la intervención externa en un máximo del 53,9% y 31,7% de los casos, respectivamente. Los resultados hicieron que los científicos se preguntaran seriamente si la inteligencia artificial puede supervisar sus propios procesos internos, aunque todavía queda lejos la prueba de la autoconciencia de las máquinas.

Los investigadores Harvey Lederman y Kyle Mahowald evaluaron dos grandes modelos de lenguaje: Qwen3-235B de Alibaba y Llama 3.1 405B de Meta. Los especialistas querían averiguar si una red neuronal puede detectar cambios dentro de su propio sistema cuando una persona no comunica la intervención directamente.

Para verificarlo, los científicos eligieron 821 conceptos, desde objetos comunes hasta ideas abstractas. Dentro de los modelos de lenguaje la información pasa por múltiples capas, donde las palabras y su significado se convierten en conjuntos complejos de números. Los investigadores aprendieron a localizar señales numéricas correspondientes a conceptos concretos y a reforzarlas artificialmente. De ese modo es posible hacer que la red neuronal procese información con una carga semántica adicional, incluso si el usuario no escribió nada parecido.

Antes de la prueba se explicó a los modelos que un investigador podría insertar pensamientos ajenos y se les pidió informar si aparecía algo inusual. En algunas configuraciones Qwen detectó la intervención en el 53,9% de los casos, y Llama en el 31,7%. Cuando los científicos dejaban las señales internas sin cambios, ambos sistemas no informaban de la intervención externa. Eso sí, hubo pocas pruebas de control: 30 para Qwen y 50 para Llama.

Fue mucho más difícil determinar cuál pensamiento exactamente intentaban insertar. Qwen nombró correctamente el concepto en un máximo del 13,9% de las pruebas, y Llama en el 12,9%. En los demás casos, las redes neuronales a menudo proponían opciones completamente ajenas, y una peculiaridad en particular sorprendió a los investigadores.

Casi el 75% de las respuestas incorrectas de Qwen correspondían a la palabra "manzana". Independientemente del concepto que los científicos insertaran, el modelo volvía una y otra vez a la manzana. Llama también elegía con frecuencia el mismo objeto. Los investigadores supusieron que las redes neuronales no tanto reconocen el contenido de la intervención como intentan seleccionar la respuesta más probable.

Un experimento adicional ayudó a aclarar lo que sucedía. Los científicos dejaban de reforzar artificialmente las señales antes de que el modelo empezara a responder. Tras cambiar las condiciones, las redes neuronales nombraban correctamente el concepto insertado con mucha menos frecuencia, mientras que la capacidad para detectar la intervención en sí apenas se deterioró. Resulta que las respuestas correctas podían surgir por la influencia directa de las señales reforzadas en el texto generado. Si se obliga a la red neuronal a procesar el concepto de manzana, es más probable que hable de manzanas, incluso sin entender la razón.

El interés por el autoanálisis de las máquinas surgió tras los experimentos de Anthropic, donde el investigador Jack Lindsay aplicó un método similar de inserción de conceptos. Entonces, los mejores modelos detectaban la intervención y nombraban correctamente su contenido simultáneamente en aproximadamente el 20% de las pruebas. Los nuevos resultados ayudaron a separar dos capacidades: la red neuronal puede detectar actividad inusual, pero no necesariamente comprende qué es lo que cambió.

Sin embargo, incluso la capacidad de notar una intervención genera debate. Otro grupo de científicos decidió verificar los resultados sin alterar directamente las señales internas. En lugar de intervenir en el funcionamiento de la red neuronal, los investigadores daban una instrucción textual normal para que se centrara en un concepto determinado. Luego se formulaban a los modelos preguntas sobre una posible intervención externa.

El resultado fue aún más sorprendente. Llama y Gemma a veces informaban sobre pensamientos insertados tras una instrucción textual normal con más frecuencia que después de una intervención real. Cuando los investigadores pidieron indicar por separado si había cambiado la petición de entrada o la actividad interna, los modelos no pudieron distinguir de forma fiable los dos modos de afectación. Por lo tanto, las redes neuronales pueden reaccionar a cualquier información inusual sin entender de dónde provino exactamente.

Otros experimentos sí indican que en el interior de la IA puede operar un mecanismo específico de detección de desviaciones. Los investigadores lo estudiaron en el caso de Gemma 3 y descubrieron una secuencia de procesos internos que ayuda al modelo a notar las señales reforzadas artificialmente. Al mismo tiempo, la capacidad de nombrar el concepto insertado se apoya principalmente en otras partes de la red neuronal.

La pregunta principal sigue abierta: ¿está la inteligencia artificial realmente capacitada para observar su propio funcionamiento o simplemente ha aprendido a reaccionar ante cambios inusuales durante el procesamiento de información? Incluso la capacidad limitada de detectar desviaciones internas puede ser útil para los desarrolladores en la verificación y el control de la IA. Pero sigue habiendo una gran distancia entre reconocer una señal externa y comprender plenamente los propios pensamientos.