Un espía en los cables — no es metáfora: las autoridades británicas quieren poder prohibir compras a proveedores considerados riesgosos.

Cuanto más potentes se vuelven los sistemas de inteligencia artificial, más literal suena la pregunta de quién podrá pulsar el botón de apagado en una emergencia. En el Reino Unido se propuso otorgar al gobierno la facultad de detener grandes sistemas de IA y centros de datos si su funcionamiento crea una amenaza para la infraestructura crítica, la seguridad nacional o la vida de las personas.

La enmienda se presentó en el considerado por el parlamento británico proyecto de ley sobre ciberseguridad y resiliencia (Redes y Sistemas de Información). El documento amplía las normas vigentes de protección de redes y sistemas de información y abarca, entre otras cosas, centros de datos, proveedores de servicios gestionados de TI y contratistas críticos. El propio proyecto de ley ya ha pasado por la Cámara de los Comunes y está en revisión en la Cámara de los Lores. La nueva propuesta aún no forma parte de la ley: el parlamento asignó a la enmienda el estado Sin decisión, es decir, la cámara todavía no ha adoptado una resolución al respecto.

La enmienda propuesta introduce los llamados poderes de última instancia. El ministro podrá ordenar apagar un centro de datos o un sistema de IA desplegado a gran escala en caso de una emergencia relacionada con la seguridad o la operación de la IA. Por «a gran escala» los autores entienden sistemas accesibles a un gran número de residentes del país o a proveedores y operadores de servicios vitales.

La intervención no se autoriza por cualquier fallo. El gobierno debe tener motivos razonables para considerar que la IA causó o agravó la vulneración de importantes redes y sistemas de información, y que las consecuencias entrañarían un riesgo catastrófico. Entre esas consecuencias los autores de la enmienda incluyen una interrupción a gran escala de la infraestructura crítica y de servicios vitales, daños graves a la defensa, a las capacidades de inteligencia o a la seguridad nacional del Reino Unido, así como una amenaza masiva para la vida humana.

Se quiere preparar de antemano a los operadores de centros de datos y a los proveedores de IA para un escenario de este tipo. Las empresas deberán contar con medios técnicos que permitan ejecutar la orden de parada, mantener canales de comunicación protegidos con el Estado y ensayar regularmente el apagado de emergencia. Tras una parada de emergencia, el operador tendrá que investigar las causas del incidente, notificarlo y adoptar medidas para evitar su repetición antes de que el sistema vuelva a funcionar.

El incumplimiento de los requisitos establecidos acarreará responsabilidad penal. En un procedimiento por acusación se podrá imponer pena privativa de libertad de hasta dos años, multa o una combinación de ambas medidas. En algunas situaciones, las autoridades también podrán clausurar locales, desconectar sistemas por su cuenta o exigir al operador que pare el equipo. La empresa tendrá derecho a recurrir ante el Tribunal Superior, que podrá confirmar, modificar o revocar la decisión, así como ordenar una compensación.

La enmienda también aborda amenazas más remotas. Se propone que el gobierno rinda cuentas ante el parlamento cada seis meses sobre posibles emergencias relacionadas con la IA. Los informes deben examinar el uso malicioso de la tecnología por actores estatales y no estatales, la capacidad de sistemas autónomos para realizar ciberataques y la aparición de modelos capaces de socavar la seguridad nacional por sí mismos, escapar al control humano o afectar la estabilidad internacional. En el texto se mencionan por separado los sistemas que podrían clasificarse como «IA superinteligente».

Paralelamente, los parlamentarios propusieron establecer para ciertos servicios de IA un conjunto de restricciones obligatorias. Antes de salir al mercado británico, esos sistemas deberán demostrar que no pueden eludir el control humano y la desconexión, replicarse de forma autónoma ni perfeccionarse hasta un nivel peligroso, obtener por sí mismos recursos computacionales ni acelerar de forma significativa ataques complejos contra infraestructura crítica. La lista también incluye la ayuda en el desarrollo de armas químicas, biológicas, radiológicas o nucleares, el apoyo a ataques de grupos terroristas y hostiles y las manipulaciones masivas de la población.

Si se aprueba dicha enmienda, los productos de IA que entren en la definición de servicio digital regulado deberán someterse a una verificación en el Instituto de Seguridad de la Inteligencia Artificial antes de su comercialización en el Reino Unido. Los autores describen las restricciones mencionadas como el nivel mínimo de protección para sistemas de IA avanzados, no como un conjunto exhaustivo de requisitos.

Una iniciativa separada propone sancionar personalmente a los responsables de organizaciones reguladas. El regulador podrá imponer una multa al director, al responsable o a otro alto cargo si la empresa incumplió los requisitos de la ley con su consentimiento, por tolerancia o por negligencia deliberada o imprudente. La Cámara de los Lores tampoco ha adoptado todavía una decisión sobre esta enmienda.

La versión básica del proyecto de ley ya amplía de manera sustancial la regulación británica de ciberseguridad. Según los materiales oficiales del gobierno, se prevé reconocer a los centros de datos como servicios vitales e incluir a los proveedores medianos y grandes de servicios gestionados de TI en el ámbito de aplicación de las normas NIS. Las empresas deberán evaluar riesgos, proteger la infraestructura y notificar incidentes graves.

También cambia el régimen de notificaciones. La organización regulada deberá enviar un aviso inicial al regulador y al Centro Nacional de Ciberseguridad en un plazo de 24 horas desde el descubrimiento de un incidente significativo, y facilitar un informe más detallado en el plazo de 72 horas. Los requisitos abarcarán, en particular, ataques de extorsión y casos de asentamiento encubierto de atacantes en la infraestructura, incluso si los delincuentes aún no han logrado alterar el funcionamiento del servicio.

El gobierno ya incluyó en el proyecto de ley la posibilidad de dictar instrucciones obligatorias a las organizaciones reguladas ante una amenaza directa a la seguridad nacional. La nueva iniciativa sobre IA va mucho más allá y describe el escenario extremo en el que el Estado podría exigir la capacidad física preparada para detener la infraestructura informática. Por ahora, ese «botón de emergencia» sigue siendo una propuesta de los parlamentarios y no una facultad vigente de las autoridades británicas.