Mostró un deepfake y desató un escándalo: un diputado que quería alertar sobre la IA provocó el caos en el Parlamento
El funcionario fue víctima de la tecnología contra la que él mismo había advertido.
En la Asamblea Nacional de Corea del Sur se produjo un escándalo después de que el diputado del partido gobernante People Power Party Kim Jang-gyun mostrara en una sesión un vídeo deepfake con imágenes de altos funcionarios. El clip, creado con inteligencia artificial, mostraba una «reunión secreta» del viceministro Bae Gyeon-hun y del ex presidente del comité judicial Lee Chun-sok.
Según el diputado, el objetivo de la demostración era llamar la atención sobre la creciente amenaza del abuso de la IA y mostrar lo fácil que es crear una falsificación convincente. Sin embargo, sus colegas en el parlamento consideraron las acciones de Kim provocativas e inapropiadas durante una sesión oficial.
El intento de advertir sobre los riesgos tecnológicos se volvió en contra del propio promotor. Los legisladores lo acusaron de que, al usar imágenes reales de personas, él mismo difuminó la línea entre una demostración educativa y la manipulación.
El intercambio verbal se convirtió rápidamente en caos: los diputados empezaron a gritarse y la sesión del comité de Ciencia, TIC, Radiodifusión y Comunicaciones tuvo que ser interrumpida una hora y quince minutos después de comenzar.
Kim afirmó que casos de «abuso de la IA y sus efectos secundarios» hay innumerables, y sostuvo que el vídeo estaba destinado únicamente a aumentar la concienciación. No obstante, las consecuencias fueron las contrarias: la atención del parlamento se desvió del fondo del asunto hacia el propio escándalo.
El incidente se convirtió en un ejemplo evidente de cómo incluso el intento de exponer el peligro de las tecnologías deepfake puede transformarse en desinformación.
En la política mundial, casos similares ocurren con más frecuencia. En el Reino Unido, en 2024 se difundieron en la red más de cien vídeos en los que el ex primer ministro Rishi Sunak «hablaba» con una voz generada por IA. Investigadores de la firma Fenimore Harper determinaron que los clips alcanzaron a más de 400.000 usuarios e imitaban el estilo de los reportajes de la BBC.
En el caso de Corea del Sur la situación resultó especialmente irónica: el parlamentario que intentaba advertir sobre los riesgos de la inteligencia artificial se convirtió en víctima de sus efectos, no tecnológicamente, sino políticamente.