Un hacker recibió $10,000 porque la IA hablaba con las personas equivocadas

Meta ha solucionado una vulnerabilidad en el sistema de seguridad de su chatbot Meta AI que permitía a los usuarios ver solicitudes y respuestas privadas generadas por la inteligencia artificial para otros usuarios. El problema fue reportado por el especialista Sandeep Hodkasia. Por descubrir y comunicar confidencialmente el fallo, Meta le otorgó una recompensa de 10 mil dólares.

La vulnerabilidad fue detectada el 26 de diciembre de 2024 y corregida el 24 de enero de 2025. Representantes de Meta confirmaron que no se registraron casos de uso indebido del fallo y agradecieron a Hodkasia por su divulgación responsable.

El error se encontraba en el mecanismo de edición de solicitudes de los usuarios en Meta AI. Cuando un usuario modificaba su consulta, los servidores de Meta le asignaban un número único. Hodkasia descubrió que si se modificaba manualmente ese número en el tráfico de red del navegador, era posible acceder a las solicitudes y respuestas de otros usuarios. El sistema no verificaba si el solicitante tenía permiso para ver esos datos. Además, esos números eran fácilmente predecibles, lo que potencialmente permitía a scripts automatizados extraer masivamente información privada de los usuarios.

Meta AI lanzó una aplicación independiente a principios de 2025 para competir con productos como ChatGPT. Sin embargo, desde el principio el servicio enfrentó dificultades. Algunos usuarios compartieron accidentalmente sus conversaciones con la IA, creyendo que eran privadas, lo que aumentó la preocupación sobre la confidencialidad.

En medio de la carrera entre los gigantes tecnológicos por el liderazgo en el campo de la IA, incidentes como este subrayan cuán crítica es la protección fiable de los datos de los usuarios. A pesar de la rápida respuesta y la ausencia de signos de explotación, el caso de Meta AI demuestra que incluso las grandes empresas todavía tienen fallos en sus sistemas de control de acceso que pueden poner en riesgo la información confidencial de millones de usuarios.