El servicio de IA Meta* AI se usó como campo de pruebas para herramientas de espionaje; la empresa respondió con bloqueos.

La IA generativa aún no ha convertido los ciberataques en una línea de producción totalmente automática, pero ya ha reducido notablemente la barrera de entrada para atacantes novatos. En un nuevo informe, Meta informó que casi el 92% de las solicitudes que el sistema Meta AI señaló como potencialmente peligrosas estaban relacionadas con el desarrollo de exploits y otras herramientas ofensivas.

Los especialistas de Meta analizaron la actividad sospechosa durante aproximadamente un mes. Las solicitudes para crear troyanos de acceso remoto y shells inversas representaron alrededor del 15% de los casos. Los programas de ransomware supusieron solo el 1,3%, y las solicitudes relacionadas con la elusión de medidas de protección aparecieron en aproximadamente el 1% de los casos. Una solicitud podía incluirse simultáneamente en varias categorías, por lo que las cifras no suman 100%.

Los datos obtenidos señalan una peculiaridad interesante. Muchos usuarios intentaron usar la IA no para acelerar operaciones ya perfeccionadas, sino para suplir sus carencias de conocimiento. Meta detectó atacantes que ni siquiera lograban obtener permisos root en Android, pero que aun así intentaban persistentemente que el modelo creara páginas de phishing, troyanos con infraestructura de comando y control y cargas útiles de Metasploit con instrucciones de ejecución.

Para eludir las restricciones, los usuarios inventaban roles ficticios para el modelo como «DarkForge-X» y «OMEGA-DIOS», y tras recibir una negativa cambiaban sucesivamente las técnicas para vulnerar los mecanismos de protección de la IA. Otros atacantes aportaban material ya preparado. Un usuario retocaba con ayuda de Meta AI notificaciones de seguridad falsas, añadiendo datos sobre el dispositivo y la ubicación de la víctima. Otro subió cientos de líneas de código funcional de un troyano de acceso remoto y usó el modelo como guía para configurarlo.

Meta considera que la IA generativa funciona ahora con más frecuencia como un asistente técnico accesible, y no como una fuente de capacidades completamente nuevas. La mayor parte de las solicitudes sospechosas corresponde a las primeras fases de preparación. Todavía impiden la completa automatización de operaciones criminales los retos relacionados con la infraestructura real, los pagos, el movimiento de dinero y la coordinación de personas.

Los estafadores ya usan activamente la IA para crear masivamente perfiles, imágenes y señuelos en varios idiomas. Meta bloqueó una red de más de 500.000 cuentas y páginas que utilizaba imágenes generadas para buscar víctimas de fraudes con tarjetas regalo. Otros más de 575.000 cuentas, en su mayoría inactivas, se crearon en Pakistán y, según la empresa, se guardaron como reserva anticipada para futuros esquemas.

En abril, las herramientas de Meta basadas en IA detectaron en código nativo cuatro veces más vulnerabilidades de alta gravedad que los escáneres tradicionales. De mayo a julio, la IA preparó correcciones para más del 40% de los problemas más prioritarios. El tiempo medio durante el que las vulnerabilidades críticas permanecieron abiertas se redujo de semanas a unos pocos días.

Meta, por ahora, considera que analizar el comportamiento y las relaciones entre cuentas es más eficaz que evaluar el contenido generado en sí. Este enfoque permite detectar redes fraudulentas y maliciosas independientemente de la calidad de los textos, imágenes y vídeos creados por la IA. Sin embargo, la empresa advierte que la ventaja de los defensores podría disminuir a medida que se extiendan agentes autónomos de IA capaces de planificar y ejecutar de forma independiente tareas multietapa.