Por un error de la inteligencia artificial, la policía detuvo a un británico inocente

Policías británicos detuvieron a un hombre tras una coincidencia en un sistema de reconocimiento facial, y ya después de trasladarlo a otra comisaría constataron que en las imágenes del delito aparecía otra persona. El caso fue describieron los inspectores de HMICFRS en un informe del 12 de noviembre. Antes de emitir la orden de búsqueda del sospechoso, los investigadores no verificaron el resultado por otros medios.

La inspección afectó a la policía de Inglaterra y Gales, así como a la Agencia Nacional contra el Crimen. En el año hasta el 31 de marzo de 2026, los policías realizaron 291 341 búsquedas faciales. La base nacional PND contiene más de 20 millones de fotografías de detenidos. Se trata de búsquedas en imágenes ya obtenidas de cámaras, teléfonos y redes sociales, y no del escaneo de transeúntes en tiempo real.

El algoritmo ofrece una lista de personas similares, pero la coincidencia sirve solo como motivo para una verificación adicional, no como prueba de identidad. Una encuesta por separado del Ministerio del Interior del Reino Unido mostró que el 34% de 779 empleados se equivocaban o dudaban de la fuerza probatoria del resultado. Además, el 65% no recordaba haber recibido formación en el último año. La muestra abarcó al 13% de los usuarios del sistema.

Las consecuencias de esos errores ya trascendían los informes. En enero de 2026 en Southampton detuvieron al programador Elvi Choudhury, al asociar por error su fotografía con un robo en una localidad a 160 kilómetros. El hombre estuvo detenido casi diez horas. La policía afirmó que el personal además comparó las imágenes manualmente y rechazó las acusaciones de detención ilegal.

La supervisión resultó igualmente problemática. Siete unidades no designaron auditores de las búsquedas, y 22 no presentaron informe o enviaron datos incompletos. En las inspecciones se encontraron fotografías borrosas y imágenes con varias personas. Los controladores evaluaban más a menudo las acciones del operador de la base, pero no investigaban qué decisiones tomaba el investigador tras obtener la coincidencia.

Las pruebas mostraron que el algoritmo de la PND, con ciertos ajustes, incluía con más frecuencia por error en los resultados a mujeres, a personas de piel oscura y a personas de origen asiático. Elevar el umbral reducía las diferencias entre los grupos, pero dificultaba encontrar coincidencias reales. Tras las recomendaciones de 2024, los policías modificaron la sensibilidad de la búsqueda. Los inspectores no pudieron demostrar una relación entre el sesgo y detenciones erróneas concretas.

La policía siguió buscando a personas mediante imágenes que ya debían haber sido eliminadas de la PND. La policía de Londres y las unidades de Gales del Sur también utilizan sistemas locales separados con otras bases. El nuevo algoritmo nacional se probó sin diferencias significativas en la precisión entre grupos demográficos. La plataforma se testó en Cheshire y Essex; aún no ha habido un lanzamiento nacional.

HMICFRS propuso 16 medidas, incluyendo formación obligatoria, auditoría de las actuaciones de los investigadores y normas unificadas. El Ministerio del Interior ya anunció planes para crear un organismo independiente de supervisión. Los inspectores recomiendan adoptar un código de reconocimiento facial retrospectivo antes del 30 de junio de 2027 y completar la formación antes de finales de 2027. La nueva plataforma deberá eliminar automáticamente las imágenes si desaparecen las razones para su conservación.