Síndrome de falsa genialidad: las sugerencias de la IA hicieron que las personas cometieran más errores, pero confiaran más en estar en lo cierto.

La IA cada vez más sugiere una respuesta ya elaborada donde antes la persona habría tenido que reconocer la falta de conocimientos, y, como se ha descubierto recientemente, esa ayuda puede reducir la fiabilidad de las conclusiones. Investigadores de universidades de Francia e Italia descubrieron que el acceso a las sugerencias de un modelo de lenguaje hace que las personas respondan «no sé» con menos frecuencia, incluso cuando la IA ofrece una respuesta incorrecta.

A los participantes se les plantearon preguntas sobre detalles poco visibles de películas que rara vez aparecen en los datos de entrenamiento. Un grupo tuvo que responder por sí mismo, y el otro pudo consultar el modelo Step 3.5 Flash. Los autores eligieron deliberadamente este sistema de IA porque tendía a equivocarse más en ese tipo de tareas, para comprobar la reacción de las personas ante sugerencias poco fiables.

Sin la ayuda de la IA, el 44% de los participantes admitió que no sabía la respuesta. Pero tras recibir sugerencias, la proporción de esas respuestas cayó al 3%. Al mismo tiempo, también disminuyó la corrección de las respuestas. En el primer grupo respondieron correctamente el 27% de los participantes, y en el segundo solo el 9%. Algunas personas podían haber elegido primero la opción correcta, pero cambiaron de opinión tras el consejo erróneo del modelo.

La confianza, en cambio, aumentó en la dirección opuesta. Sin IA, el 30% de los participantes valoró altamente la corrección de su respuesta, mientras que con sugerencias fue el 76%. Así, el acceso al modelo no solo empeoró el resultado, sino que también creó en las personas una falsa sensación de fiabilidad de la respuesta.

Una recompensa monetaria por la precisión mitigó algo el efecto. La proporción de respuestas «no sé» aumentó del 3% al 8%, y las respuestas correctas del 9% al 16%. Ambos indicadores siguieron siendo claramente inferiores a los resultados del grupo que trabajó sin IA.

Los autores consideran que el problema no se limita a preguntas sobre cine. El acceso constante a respuestas preparadas puede dificultar que las personas evalúen los límites de sus propios conocimientos y mantengan una actitud crítica hacia las sugerencias.

Para reducir el riesgo, según los especialistas, es útil la formación en el uso de la IA en la que se verifiquen las respuestas de los modelos y se considere normal reconocer la incertidumbre como parte del razonamiento.