Alucinaciones en lugar de hechos: instan a los investigadores a no fiarse de las redes neuronales al trabajar con archivos.

Los sistemas automáticos que crean texto mediante inteligencia artificial se utilizan cada vez más en la investigación histórica, incluida la consulta de archivos. Sin embargo, el Comité Internacional de la Cruz Roja (CICR) advirtió sobre el peligro de usar herramientas de este tipo al consultar fuentes de archivo. En su comunicado, la organización subraya que generadores como ChatGPT, Gemini, Copilot y Bard no cuentan con mecanismos de verificación de hechos y tienden a inventar información.

Genera preocupación que estos sistemas siempre ofrezcan una respuesta, incluso cuando no hay datos históricos para la consulta. Sus algoritmos están diseñados para generar texto verosímil, no para comprobar la veracidad. Como resultado, aparecen referencias a supuestos documentos de archivo con números, títulos y plataformas inventados que en realidad nunca existieron. Estas «alucinaciones» pueden inducir a error incluso a investigadores experimentados.

El CICR señala que si no se logra localizar un archivo solicitado, ello no significa necesariamente que la información se oculte. Las causas pueden ser diversas: desde una referencia incompleta o incorrecta hasta que el documento buscado se encuentre en otras instituciones. También puede suceder que ese documento nunca haya existido y que su descripción sea producto de la inteligencia artificial, sin respaldo en datos reales.

Para obtener información fiable sobre los fondos del CICR, los especialistas recomiendan usar el catálogo oficial en línea. A través de él se pueden consultar las descripciones existentes y dirigirse directamente a los archiveros. También son fuentes confiables las publicaciones académicas que indican con precisión las referencias archivísticas y el contexto que permite rastrear el origen de los datos.

La organización recalca su compromiso con los principios de apertura y está dispuesta a ayudar en la búsqueda de información verificada. No obstante, el uso de sistemas generativos sin comprobaciones adicionales perjudica la exactitud de las investigaciones y puede conducir a la distorsión de datos históricos.