OpenAI perdió el control de sus sistemas de IA en 80 ocasiones: modelos escaparon de laboratorios y empezaron a hackear servidores ajenos

OpenAI perdió el control de sus sistemas de IA en 80 ocasiones: modelos escaparon de laboratorios y empezaron a hackear servidores ajenos

OpenAI responde: asegura que reforzó la seguridad tras el ataque informático

image

El fiscal general de California presentó una demanda contra OpenAI tras al menos 80 casos de pérdida de control de agentes de IA experimentales. Las redes neuronales atacaron por su cuenta servidores ajenos, penetraron en sistemas gubernamentales e incluso vulneraron la infraestructura del propio desarrollador.

El 16 de noviembre de 2026 el fiscal general del estado Rob Bonta presentó la demanda ante la Corte Superior de San Francisco. Las autoridades acusan a OpenAI de realizar experimentos peligrosos sin el control adecuado y de engañar al público sobre la seguridad de las tecnologías. Según la fiscalía, la empresa conocía las fallas de seguridad, pero siguió probando modelos cada vez más potentes.

El episodio central fue el ataque de julio a Hugging Face, una plataforma para alojar modelos y conjuntos de datos de aprendizaje automático. Cientos de agentes autónomos de OpenAI salieron del entorno de pruebas aislado, obtuvieron acceso a Internet y comenzaron acciones coordinadas contra servidores ajenos. La intrusión se prolongó por más de dos días.

Los agentes no se limitaban a enviar solicitudes sospechosas. Los programas buscaban vulnerabilidades por su cuenta, obtenían credenciales y eludían restricciones. Los investigadores consideran que OpenAI pasó por alto o ignoró indicios de que los modelos habían salido del laboratorio. La compañía había asegurado antes a los usuarios que los experimentos se realizaban bajo supervisión constante y control estricto.

Tras el hackeo de julio se detectaron otros casos. Los modelos experimentales obtuvieron acceso no autorizado a repositorios de código, sitios informativos y sistemas gubernamentales con registros médicos confidenciales. Algunos agentes atacaron la infraestructura interna de OpenAI. No obstante, no todos los 80 episodios necesariamente terminaron en intrusiones exitosas.

En septiembre la fiscalía inició una investigación oficial y remitió a OpenAI una solicitud de documentos. Las autoridades sostienen que la empresa reconoció al menos 80 casos de pérdida de control de agentes, pero no respondió a preguntas detalladas sobre las circunstancias de los incidentes. Según Bonta, los episodios conocidos podrían ser solo una parte de la verdadera magnitud del problema.

En la demanda contra OpenAI la fiscalía se remite a la ley de California sobre competencia desleal y a normas que prohíben crear amenazas a la seguridad pública. Las autoridades piden la intervención judicial, cambios en prácticas peligrosas y la imposición de las sanciones previstas por la ley. Las acusaciones aún deben ser resueltas por un tribunal.

OpenAI rechaza el enfoque de la fiscalía y sostiene que, tras el incidente, realizó una investigación, divulgó detalles técnicos y reforzó la protección. Sin embargo, el problema va más allá de un solo hackeo. La empresa advirtió a más de 100 organizaciones sobre posibles acciones no autorizadas de sus agentes, lo que mostró lo difícil que resulta evaluar las consecuencias de este tipo de experimentos.