Basta de buscar inteligencia en el código: tu ChatGPT favorito no es más listo que un rebaño de cabras en un viejo juego de estrategia

Las discusiones sobre la «conciencia» de los chatbots suelen empezar por la costumbre humana de ver personalidad donde funciona un programa sencillo, y el especialista en IA de Microsoft Adrian De Winter llevó esta discusión al absurdo con el videojuego Age of Empires II.

De Winter construyó en el editor de escenarios de Age of Empires II un elemento muy simple de una red neuronal, en el que el papel de los bits lo desempeñan cabras, y la lógica del juego se apoya en la hierba y los puentes. El proyecto está descrito en un trabajo titulado «Si un LLM tiene rasgos humanos, entonces también los tiene Age of Empires II». La idea principal del experimento no es que el juego o los chatbots tengan conciencia, sino qué tan fácilmente las personas atribuyen cualidades humanas a las máquinas.

En lugar de un chatbot real, De Winter ensambló en el juego un pequeño circuito lúdico que funciona como la parte más elemental de una red neuronal. En una red neuronal habitual los números pasan por nodos matemáticos, y en su experimento las cabras cumplieron el papel de esos números. Su posición en el mapa significaba «sí» o «no», algo similar a que un interruptor muestra dos estados: encendido o apagado. La hierba y los puentes establecían las reglas de movimiento, y el editor de escenarios hacía que toda la construcción reaccionara a entradas.

Así, dentro de la vieja estrategia surgió un primitivo mecanismo «pensante», pero no inteligencia ni un modelo de lenguaje completo. El circuito pudo realizar una operación lógica simple y mostrar cómo a partir de interruptores elementales se construyen sistemas más complejos. Ese era precisamente el sentido del ejemplo: si las cabras en Age of Empires II pueden representar un fragmento de red neuronal, nadie diría que el juego ha adquirido conciencia. Por tanto, el mero funcionamiento de un mecanismo neuronal no demuestra la existencia de sentimientos, personalidad o entendimiento en un chatbot.

De Winter también señala el efecto de confirmación de expectativas. Cuando usuarios y autores de trabajos científicos buscan rasgos humanos en las tecnologías, es más fácil que encuentren comportamientos que parecen emociones, intenciones o personalidad. Según el autor, analizó 337 trabajos sobre grandes modelos de lenguaje publicados en los últimos dos años, y en el 57% de ellos se admitía la posibilidad de cualidades humanas en los LLM. Esa predisposición puede influir en el diseño de las pruebas y en las conclusiones.

La diferencia entre el esquema «de cabras» y los chatbots populares como ChatGPT, Claude y Gemini no reside solo en la complejidad de los modelos, sino también en la interfaz. Los chatbots responden en lenguaje natural, ajustan el tono de la conversación e imitan el diálogo habitual, por lo que a los usuarios les resulta más fácil verlos como interlocutores.

De Winter considera que las empresas que desarrollan servicios de IA no siempre frenan esa antropomorfización, puesto que el apego emocional puede aumentar el interés por productos y suscripciones.

El experimento con Age of Empires II no cierra el debate científico sobre la naturaleza de la IA, pero separa con claridad la demostración real de las interpretaciones grandilocuentes. Las cabras en la vieja estrategia ayudaron a ensamblar un elemento de red neuronal; sin embargo, la conclusión del trabajo es más sencilla: el comportamiento de una máquina se explica mejor por mecanismos técnicos, mientras no haya motivos para hablar de propiedades más complejas.