La IA ya no puede ser "casi correcta": presentan HardFlow para tareas peligrosas

Investigadores presentaron HardFlow, un método para inteligencia artificial generativa que obliga a modelos ya entrenados a respetar restricciones estrictas, por ejemplo no trazar para un robot un camino a través de un obstáculo. En las pruebas HardFlow cumplió todas las restricciones impuestas en tareas de robótica, navegación y edición de imágenes sin volver a entrenar el modelo, lo cual es especialmente importante donde un resultado "casi correcto" sigue considerándose un error.

Por restricción estricta los autores entienden una condición que no se puede violar a cambio de una mayor calidad del resultado. El robot puede elegir una ruta más larga o menos cómoda, pero no debe chocar con un obstáculo. Un sistema de control puede consumir más energía, pero debe permanecer dentro de los límites físicos establecidos. Al editar una fotografía, la red neuronal puede cambiar la expresión facial, pero debe mantener el parecido con la persona original.

HardFlow está pensado sobre todo para modelos de correspondencia de flujos, cercanos en principio de funcionamiento a los modelos de difusión. Estos sistemas comienzan desde ruido aleatorio y lo transforman gradualmente en una imagen, una trayectoria de movimiento u otro resultado. Cada estado intermedio es solo un paso de cálculo y por lo general no se utiliza directamente.

Los métodos existentes con frecuencia intentan mantener cada paso intermedio dentro del área permitida. Tras cada modificación se comprueba el resultado y, si es necesario, se fuerza a volver a un estado aceptable. Los autores de HardFlow consideran que ese enfoque es demasiado rígido: las primeras variantes intermedias todavía se parecen mucho al ruido, por lo que las restricciones prematuras pueden cortar el camino hacia una solución de mayor calidad.

En lugar de correcciones constantes, HardFlow considera la generación como una tarea de optimización de trayectorias. El algoritmo utiliza métodos de control óptimo y predictivo para, mediante pequeñas correcciones, guiar el proceso hacia un resultado que a la vez cumpla las condiciones obligatorias y permanezca lo más cercano posible a la salida habitual del modelo original. Un objetivo adicional puede exigir, por ejemplo, no solo encontrar una ruta segura para el robot, sino además que sea corta.

Controlar las restricciones solo en el resultado final no significa que el robot tenga licencia para chocar con obstáculos en el camino. En las tareas de planificación, el resultado final de la red neuronal es toda la trayectoria calculada en su conjunto. Por ello, la condición de ausencia de colisiones se comprueba para el camino que la máquina debe recorrer de principio a fin.

En uno de los experimentos, un manipulador debía llegar al objetivo entre obstáculos, algunos de los cuales se añadieron solo durante las pruebas. Los autores realizaron 50 ejecuciones. HardFlow fue el único de los métodos evaluados que completó todos los intentos sin colisiones, y las rutas seguras ocuparon en promedio 52,5 pasos. La alternativa más cercana en seguridad tuvo un 76% de intentos exitosos, y la longitud media de la ruta aumentó hasta aproximadamente 67 pasos.

Una comprobación similar se realizó en un laberinto bidimensional. El objeto controlado debía llegar al objetivo evitando áreas prohibidas. En 50 pruebas HardFlow no permitió ninguna incursión en los obstáculos y obtuvo el mejor resultado en rapidez para alcanzar el objetivo entre los enfoques comparados. El siguiente método por seguridad completó sin infracciones el 88% de las pruebas.

Otro experimento evaluó el control de un proceso físico descrito por la ecuación de Burgers, que se usa al modelar flujos de fluidos y otros sistemas dinámicos. Al algoritmo se le impusieron límites temporales cambiantes para el estado del sistema. Varios métodos pudieron cumplir totalmente las restricciones, pero entre ellos HardFlow requirió la menor intervención de control y mostró el menor tiempo de cálculo.

Separadamente, los autores probaron HardFlow en la edición de rostros a partir de comandos de texto. Se pidió a la red neuronal, por ejemplo, que hiciera a una persona sonreír, lucir triste o parecer visualmente mayor, al tiempo que se prohibía un cambio excesivo en la imagen original. La evaluación abarcó 200 fotografías y cinco variantes de tarea. HardFlow fue el único que cumplió la restricción establecida en todos los casos.

Para evaluar el parecido se utilizó la métrica LPIPS, que mide la diferencia percibida entre dos imágenes. El máximo permitido era 0,06; HardFlow alcanzó un valor medio de 0,048. El tiempo de procesamiento fue de alrededor de 51 segundos, mientras que los tres métodos comparados requirieron aproximadamente entre 129 y 158 segundos. Al mismo tiempo, la calidad en el cumplimiento de la instrucción de texto se mantuvo cercana al mejor resultado entre los competidores.

El método no exige cambiar los parámetros de la red neuronal original ni volver a entrenarla. HardFlow se conecta durante la generación y corrige la trayectoria del modelo hacia un resultado admisible. Este enfoque permite aplicar nuevas restricciones a un sistema ya existente, aunque la flexibilidad tiene el precio de cálculos adicionales en cada ejecución.

HardFlow todavía no puede considerarse un mecanismo universal de seguridad para cualquier inteligencia artificial. El trabajo se centra en modelos de correspondencia de flujos y en una clase afín de sistemas generativos, y las principales pruebas se realizaron en tareas experimentales controladas. Los autores mencionan por separado escenarios más complejos con procesamiento de imágenes de alta resolución, interacción de robots con objetos físicos y otras condiciones reales como direcciones para futuras comprobaciones.

Existe también una limitación más fundamental: HardFlow solo puede garantizar el cumplimiento de reglas que el desarrollador haya sabido formular matemáticamente con precisión. El algoritmo puede obedecer estrictamente la condición de evitar obstáculos conocidos, el límite de velocidad o el grado admisible de cambio en la imagen, pero por sí solo no determina si tales condiciones describen por completo la seguridad de un sistema real. Por eso HardFlow añade a los modelos generativos un mecanismo de ejecución estricta de requisitos formalizados, más que convertirlos en sistemas inherentemente seguros.