Bibliotecario.exe: escuelas de EE. UU. sustituyen al personal humano por filtros de IA
Un algoritmo en vez del ser humano, prohibición en vez de elección, censura en vez de educación
En las bibliotecas escolares estadounidenses ha surgido un nuevo actor: una inteligencia artificial que clasifica automáticamente los libros como "seguros" y "peligrosos". El programa Class-Shelf Plus de la empresa CLCD etiqueta la literatura automáticamente con una escala de colores: verde — aceptable, rojo — cuestionable. Sin embargo, quién enseñó el algoritmo y con qué datos es información confidencial.
Los fabricantes presentan el sistema como una salvación para los bibliotecarios sobrecargados, que les facilitará cumplir las leyes más estrictas sobre "contenido sensible". Las administraciones escolares están encantadas: pueden rendir cuentas ante las autoridades y eximirse de responsabilidad por los libros controvertidos.
Pero el problema está en los detalles. A la filtración automatizada también entran libros sobre historia racial, temas LGBT y crítica social. Además, los bibliotecarios físicamente no dan abasto para revisar miles de veredictos de la máquina: hay poco personal, no hay tiempo, recortan los presupuestos. Como resultado, el profesional con formación queda desplazado y el destino de los libros lo decide un algoritmo opaco.
La situación empeora por la presión política. En algunos estados los docentes enfrentan responsabilidad penal por "difundir ideas dañinas". Los legisladores atacan a las escuelas, la financiación cae, y además hay un nuevo dolor de cabeza: las bibliotecas están inundadas de libros escritos por redes neuronales que hay que localizar y eliminar manualmente.
La comunidad profesional lanza la alarma: en lugar de ayudar a los lectores, los bibliotecarios se hunden en la burocracia, defendiéndose de las acusaciones y revisando el funcionamiento de los algoritmos. La prometida "optimización" se ha traducido en un aumento de la carga — porque por los errores de la IA las personas siguen siendo responsables.
Resultado: bajo la apariencia de una solución tecnológica se está construyendo gradualmente un sistema de censura centralizada, donde la máquina determina los límites de lo aceptable y los especialistas humanos se convierten en rehenes de la automatización.