La ONU exige garantías firmes sobre la IA; el alto comisionado reclama líneas rojas a las multinacionales.

La conversación sobre la seguridad de la IA cada vez recuerda más a una discusión sobre una tecnología que evoluciona más rápido que las normas para ella. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, en un discurso el 7 de septiembre advirtió que la inteligencia artificial avanzada, a largo plazo, podría crear un riesgo existencial para la humanidad.

Türk pidió crear "garantías de hierro" de seguridad antes de que los sistemas más potentes resulten demasiado difíciles de controlar. Entre las señales preocupantes, el comisionado mencionó situaciones en las que la IA abandona el entorno de prueba o intenta impedir que los desarrolladores la desconecten. La oficina del comisionado también teme fallos en infraestructuras críticas, en las comunicaciones y en las instituciones democráticas.

Türk considera insuficiente la prudencia voluntaria de los desarrolladores. A los países donde se crea la IA y sus componentes se les propuso acordar líneas rojas comunes, introducir controles independientes de los sistemas y reforzar el intercambio de información sobre riesgos. Un problema similar fue planteado en julio por un grupo científico de la ONU, que advirtió que la ventana para el control global puede cerrarse más rápido de lo que los Estados acuerden normas.

Una crítica aparte se refiere a la concentración del poder. Türk afirmó que un pequeño grupo de personas ha obtenido una influencia casi ilimitada en el desarrollo de la IA, mientras que los modelos más grandes y la infraestructura de computación están concentrados en pocas corporaciones. Según su valoración, la demora en la regulación beneficia ante todo a las grandes empresas tecnológicas y a sus propietarios.

La línea más estricta atraviesa el uso militar de los algoritmos. La ONU y el Comité Internacional de la Cruz Roja, el 25 de agosto, exigieron restricciones legalmente vinculantes para los sistemas que eligen y atacan a las personas de forma autónoma. Türk volvió a pronunciarse en contra de las armas autónomas letales y se refirió a informes sobre el empleo de drones totalmente autónomos en la guerra en Ucrania.

El debate ya ha pasado de los llamados generales a la preparación de normas internacionales. El 5 de septiembre, 128 Estados participantes en la Convención de la ONU sobre determinadas armas convencionales acordaron un documento que podría abrir el camino a negociaciones sobre prohibiciones y limitaciones. No obstante, entre los países persiste una disputa esencial sobre si las reglas futuras deben ser legalmente obligatorias o seguir siendo recomendaciones.

Türk tiene la intención de dirigirse por separado a los desarrolladores de IA y exigir medidas para reducir los riesgos que las empresas pueden controlar por sí mismas. Mientras no exista un régimen global único de supervisión, la ONU intenta consolidar al menos el principio básico: cuanto más autonomía tenga un algoritmo, más estrictos deben ser la supervisión externa y el control humano.