Miles de sitios web falsos permiten medir lo fácil que es engañar a los asistentes digitales.

Google construyó una versión artificial de Internet con miles de sitios, entre los que hay tiendas en línea, redes sociales y servicios de búsqueda. Dentro de la red virtual, agentes de IA pueden realizar pedidos, rellenar formularios y ejecutar otras tareas cotidianas, mientras los ingenieros verifican lo fácil que es engañar a la inteligencia artificial y hacerla actuar en contra de los intereses del usuario.
Los desarrolladores de Chrome llamaron al entorno de pruebas Dimensión Espejo. Probar agentes de IA en la Internet habitual es difícil y peligroso: el contenido de los sitios cambia constantemente, y un fallo de la inteligencia artificial puede provocar el envío de un mensaje no deseado, la divulgación de datos personales o una compra no planificada. En un entorno aislado, los ingenieros pueden repetir experimentos muchas veces en condiciones idénticas.
Para mantener el realismo de las pruebas, Google permitió que los agentes accedieran a direcciones de Internet habituales. Por ejemplo, cuando la inteligencia artificial intenta abrir YouTube, un servidor local intercepta la solicitud y carga un sitio especialmente creado. Los desarrolladores incluso implementaron la emisión de certificados digitales propios para que Chrome no mostrara advertencias sobre conexiones inseguras.
El propio sistema de inteligencia artificial ayudó a poblar el Internet virtual. Google repartió el trabajo entre varios agentes especializados: unos diseñan la estructura de los sitios, otros escriben el código, otros prueban las interfaces, buscan errores y envían las páginas para su revisión. En las tiendas funcionan los carritos y los campos para códigos promocionales, y la tramitación de pedidos se realiza en varias etapas.
Principalmente, a los ingenieros les interesa la resistencia de la IA a las inyecciones indirectas de instrucciones. En ese tipo de ataques, los atacantes ocultan comandos maliciosos en el contenido de los sitios, esperando que la inteligencia artificial tome indicaciones ajenas como parte de la tarea del usuario. Potencialmente, un atacante puede forzar al asistente digital a revelar información confidencial o a realizar una acción sin el permiso del propietario.
Google puede colocar comandos ocultos en textos, imágenes, elementos de la página web y en las respuestas de herramientas software en cualquier etapa de la ejecución de una tarea. Durante las primeras pruebas, los desarrolladores descubrieron que los modelos avanzados podían reconocer el experimento incluso por parámetros inusuales en la barra de direcciones. A los ingenieros les tocó modificar el mecanismo de inserción de instrucciones maliciosas para no delatar el origen artificial de las páginas.
Según Google, la automatización permite crear diariamente más de mil escenarios de prueba potenciales por cada especialista en seguridad, aumentando la productividad en más de 30 veces en comparación con el trabajo manual. A futuro, los desarrolladores esperan adaptar el entorno de pruebas para evaluar agentes de IA que escriban código de forma autónoma e interactúen con un conjunto más amplio de herramientas de software.