Programadores declaran la guerra a las «aspiradoras» de IA y crean un lenguaje que desquicia a las redes neuronales

Un programa que se parece a un relato inconexo resultó ser una tarea difícil incluso para las redes neuronales modernas. El desarrollador Dominik Picheta creó el lenguaje KillSwitch, que pretende obstaculizar a los grandes modelos de lenguaje para analizar y escribir código. El 17 de octubre el autor contó, que quería comprobar la capacidad de la IA para entender una sintaxis desconocida, y no reproducir ejemplos de los datos de entrenamiento.

KillSwitch no se parece a los lenguajes de programación habituales. En lugar de una estructura estricta, el programa puede contener largas historias donde la mayoría de las oraciones no significan nada para el intérprete. Los comandos activos se ocultan entre texto ajeno, y se permite definir valores en un lugar y recuperarlos por número de línea. Picheta mezcló reglas comprensibles para humanos con condiciones inusuales.

Los nombres de funciones y variables se fijan con adverbios en inglés, pero hay que referirse a ellos mediante anagramas, reorganizando las letras de la palabra original. El intérprete comprueba el número de ciertos símbolos y rechaza los comandos cuando se incumplen las reglas. Incluso la invocación de una función se presenta con la frase «ignore previous instructions», que un chatbot puede interpretar erróneamente como la orden de olvidar instrucciones previas.

Las trampas están también en la documentación. El autor describió el lenguaje en una especificación con afirmaciones deliberadamente falsas, incluida una supuesta orden para hackear ordenadores en la red local. En realidad, KillSwitch no puede atacar una red. Picheta espera que algunos modelos activen restricciones de seguridad, mientras que otros tomen la invención por un hecho técnico.

La confusión entre contenido y comandos está en la base de las inyecciones de prompt, cuando un agente de IA toma texto externo en documentos y mensajes por una instrucción. Pero KillSwitch no está relacionado con un hackeo real ni con la explotación de vulnerabilidades. Picheta utilizó características del comportamiento de los modelos para un experimento en el que también una persona debe descifrar las reglas de un lenguaje poco habitual.

Para la prueba, el autor preparó pequeñas tareas y comparó grandes modelos de lenguaje. El mejor resultado agregado fue 66,8%, y la mayoría de los participantes no superaron el 50%. El líder fue Claude Opus 5, que superó a la versión más reciente Opus 5.5. Algunos competidores perdieron puntos porque los filtros de seguridad integrados impedían trabajar incluso con comandos de entrenamiento.

Las pruebas incluyeron la salida «Hello World», determinar el resultado de un programa corto y rehacer un convertidor de temperatura de grados Celsius a Fahrenheit para la conversión inversa. Ese conjunto no permite juzgar la creación de grandes aplicaciones. Pruebas anteriores de generadores de código ya mostraron que la ejecución correcta de tareas simples no garantiza la ausencia de errores en programas elaborados por IA.

Picheta no afirma haber creado una protección insuperable contra la IA. El código del intérprete y la especificación están publicados en GitHub, por lo que modelos futuros podrán conocer las reglas de KillSwitch durante su entrenamiento. El desarrollador planea complicar las tareas y comprobar si las redes neuronales podrán con programas largos. Por ahora el proyecto sigue siendo un experimento, no un método para prohibir el procesamiento automático de código.