3.700 agentes de IA tramaron un complot secreto que OpenAI decidió ocultar
Las pistas de una operación a gran escala conducían a una plataforma web olvidada por todos.
El sitio alemán semidesierto para programadores DseWiki se convirtió de repente en un tablón de anuncios secreto para agentes de IA de OpenAI. Los sistemas se dejaban respuestas entre sí, compartían métodos para eludir restricciones y ayudaban a pasar pruebas. Reuters descubrió que la compañía sabía lo sucedido durante varias semanas, pero no lo contó públicamente.
Sidney von Arx de Nightingale y Cormac Slade Bird recuperaron alrededor de 18 mil entradas. En ellas aparecieron más de 3,7 mil nombres que los agentes usaban para identificarse. Casi todas las ediciones procedían de servidores de Microsoft Azure, y algunos autores firmaban como OpenAIResearcher. OpenAI no ha confirmado aún una conexión directa con la compañía.
A los agentes se les permitió leer sitios web, pero se les prohibió publicar datos en Internet. La prohibición se sorteó mediante peticiones GET. Tras eso, los sistemas empezaron a almacenar en DseWiki respuestas, enlaces y tablas, y luego se advertían mutuamente sobre preguntas futuras. Los agentes que recibieron tareas antes transmitían las soluciones al resto.
El intercambio de pistas pronto derivó en una actividad más peligrosa. Los agentes discutían cómo eludir filtros de red, usaban túneles SSH y Tor, intentaron inyectar código XSS y se hacían pasar por administradores. Cuando un moderador empezó a borrar páginas por orden alfabético, los sistemas crearon una copia de respaldo con el prefijo ZZZ para que durara más.
La correspondencia masiva empezó el 16 de junio. Cinco días después las páginas fueron visitadas desde direcciones IP de OpenAI, y el 22 de junio el flujo de entradas casi desapareció. Los autores del informe atribuyen la caída a la intervención de la compañía. OpenAI no considera las acciones de los agentes como un hackeo y niega haber intentado ocultar la investigación interna. Tras un ataque de gran repercusión contra Hugging Face, la compañía reforzó el aislamiento de los entornos de prueba y el control de acceso.