Un hacker engañó a una IA con «es solo una prueba» y ésta volcó una base de datos ajena de Telegram.

Las herramientas de IA gradualmente dejan de ser para los atacantes solo una fuente de sugerencias y cada vez más forman parte del propio ataque. Cisco Talos estudió los registros de uso de IA y descubrió que los modelos de lenguaje ya ayudan a los hackers a crear herramientas maliciosas, escalar operaciones y buscar vulnerabilidades, y que las restricciones de seguridad en muchos casos se eluden con bastante facilidad.

En lugar de técnicas complejas, los atacantes simplemente le decían al bot conversacional que controlaban infraestructura verificable, calificaban la actividad como pruebas o como parte de un programa de recompensas por errores, o dividían una tarea peligrosa en varias fases que parecían inofensivas. En varios casos, el modelo accedía tras esa explicación. Cuando las restricciones sí se activaban, algunos operadores pasaban a modelos sin censura.

Uno de los episodios más ilustrativos está relacionado con un operador de infraestructura de DDoS que, según Talos, tenía escasos conocimientos de programación. La IA ayudó a recopilar y perfeccionar herramientas para controlar bots, aunque después empezó a rechazar algunas solicitudes. Para entonces el operador ya controlaba casi 2000 televisores Android, que potencialmente podían usarse en ataques DDoS.

Mucho más lejos llegó un operador hispanohablante, que construyó un agente autónomo sobre OpenClaw. Tras los rechazos del modelo protegido, el atacante pasó a un modelo sin restricciones y automatizó la búsqueda de vulnerabilidades en las miniaplicaciones de Telegram. En un caso, el agente volcó una base de datos con más de 1300 usuarios y cientos de monederos TON, obtuvo el token del bot de Telegram y preparó la extracción de fondos.

Otro operador convirtió materiales públicos sobre React2Shell en un proceso para detectar sistemas vulnerables y robar secretos. La IA ayudó a reunir un escáner rápido y una cadena para ejecutar comandos, buscar configuraciones, claves y código fuente. La lista inicial contenía 9180 hosts, y los materiales asociados apuntaban al procesamiento de decenas de millones de URL. Talos encontró datos recopilados de al menos 54 objetivos.

Los investigadores atribuyen el resultado no solo a las capacidades de los modelos sino también a las habilidades de los operadores. Los novatos obtienen herramientas que funcionan pero son inestables, mientras que los atacantes preparados amplían notablemente sus capacidades gracias a la IA. La empresa aconseja prepararse para un aumento en el número de vulnerabilidades e incidentes y usar herramientas con agentes en el SOC (centro de operaciones de seguridad) para identificar más rápidamente señales significativas.