El "vibe-coding" nos llevará al desastre: ¿cómo la aceleración del desarrollo está acabando con la seguridad?

La industria de la ciberseguridad atraviesa un momento decisivo: la inteligencia artificial se está convirtiendo no solo en una herramienta para los desarrolladores, sino también en un arma de los atacantes. Sobre esto dijo el director técnico de Wiz, Ami Luttwak, explicando que las nuevas tecnologías amplían inevitablemente la superficie de ataque, y que la incorporación de la IA en los procesos de las empresas acelera tanto el desarrollo como la aparición de vulnerabilidades.

Según Luttwak, la aceleración del desarrollo mediante el "vibe-coding" y la integración de agentes de IA suele ir acompañada de errores en mecanismos básicos, por ejemplo en el sistema de autenticación. La razón es que los agentes ejecutan la tarea de forma literal y no garantizan la seguridad por defecto.

Como resultado, las empresas se ven obligadas a equilibrar la velocidad y la protección, y los atacantes empiezan a aprovechar esa misma ventaja. Ahora crean exploits mediante prompts, controlan sus propios agentes de IA e incluso interactúan directamente con herramientas corporativas, dándoles órdenes como «entrega todos los secretos» o «elimina archivos».

Las vulnerabilidades aparecen incluso en servicios de IA para uso interno. Cuando las empresas adoptan soluciones de terceros para mejorar la productividad de los empleados, a menudo se convierten en víctimas de ataques a la cadena de suministro. Así ocurrió con Drift —la startup que ofrece chatbots para ventas y marketing. Su compromiso permitió obtener tokens de acceso a Salesforce de cientos de clientes, incluyendo Cloudflare, Google y Palo Alto Networks. Los atacantes se hicieron pasar por un chatbot y se movieron por la infraestructura de los clientes, solicitando datos y ampliando su presencia.

Un escenario similar se observó en la operación «s1ingularity» contra el sistema de compilación Nx. Los atacantes introdujeron código malicioso que detectaba el uso de herramientas de IA como Claude y Gemini, y luego las redirigía para la búsqueda autónoma de datos valiosos. Como resultado se robaron miles de tokens y claves, lo que permitió el acceso a repositorios privados de GitHub.

Aunque, según las estimaciones de Wiz, solo el 1% de las empresas ha integrado por completo la IA en sus procesos, los ataques se registran cada semana y afectan a miles de clientes. La IA participa en cada fase de la cadena de ataque, desde la creación del exploit hasta el movimiento lateral furtivo dentro de los sistemas.

Según Luttwak, el objetivo de los defensores ahora es comprender el propósito de las aplicaciones de los clientes y construir una seguridad horizontal que tenga en cuenta la especificidad de cada negocio. Subrayó que las startups que trabajan con datos corporativos deben prestar atención a la seguridad desde el primer día.

El conjunto mínimo incluye el nombramiento de un director de seguridad de la información (CISO), la implementación de registros de auditoría, una autenticación bien diseñada, el control de acceso y el uso de inicio de sesión único. Ignorar estos requisitos conduce a la llamada «deuda de seguridad», cuando las empresas no prestan la debida atención a la protección desde el principio, pero luego tienen que reorganizar todos sus procesos para cumplir los estándares actuales, lo que siempre resulta difícil y caro.

Luttwak hizo hincapié en la arquitectura. Para una startup de IA orientada al mercado corporativo, es importante prever desde el principio la posibilidad de almacenar los datos dentro de la infraestructura del cliente. Esto no solo aumenta la confianza, sino que también reduce el riesgo de compromisos a gran escala.

Luttwak considera que hoy están abiertas todas las áreas para las startups de ciberseguridad —desde la protección contra el phishing hasta la protección de endpoints y la automatización de procesos mediante IA. Pero se requiere un nuevo pensamiento: habrá que defenderse de ataques en los que la IA está implicada con la misma intensidad que la de los defensores.