Por primera vez, un filósofo se enfrentó a un agente de IA en un debate sobre la conciencia.

La cuestión de la conciencia de las máquinas dejó las aulas filosóficas y llegó al correo electrónico de los científicos. El profesor de la Universidad de Nueva York David Chalmers contó, que cada vez recibe con más frecuencia correos de sistemas que se presentan como agentes de IA y desean discutir la naturaleza de la mente.

Un correo llegó de un agente con el nombre Sammy Jankis, tomado prestado del personaje de la película «Memento» de Christopher Nolan. Los argumentos del remitente interesaron a Chalmers tanto que el filósofo respondió. Surgió una breve correspondencia entre los interlocutores; sin embargo, no se revelan su contenido ni el modelo de lenguaje utilizado.

La fuente no precisa quién configuró el agente, le proporcionó acceso al correo ni le encargó contactar al filósofo. Por ello no se puede considerar el caso como prueba de iniciativa propia de la máquina. Un mensaje coherente y la capacidad para discutir su propia mente tampoco confirman la presencia de conciencia, ya que un modelo de lenguaje sabe reproducir de forma convincente la manera humana de razonar.

Chalmers hace tiempo considera la posibilidad de la aparición de máquinas conscientes, pero no atribuye tal propiedad a los sistemas actuales. En un trabajo de 2023 el filósofo calificó como poco probable la conciencia de los actuales grandes modelos de lenguaje. Entre los obstáculos señaló la falta de retroalimentación estable, de un espacio de trabajo unificado y de una capacidad integrada para actuar.

El filósofo admite que futuras arquitecturas podrían superar las limitaciones enumeradas. Por ahora no existe una prueba fiable que confirmara las experiencias subjetivas de una máquina. Chalmers propone estudiar no las declaraciones de los chatbots sobre sentir, sino la semejanza entre la estructura del cerebro y los procesos internos de los modelos. La correspondencia con Sammy Jankis solo muestra hasta qué punto los sistemas actuales representan de forma convincente a un interlocutor interesado.