180 minutos para responder y un "sello digital": India lanza una ofensiva masiva contra el contenido sintético

La India decidió acelerar bruscamente la lucha contra los deepfakes y otro contenido sintético ilegal, lo que implicará una prueba de resistencia severa para las redes sociales globales en los próximos días. Nuevos requisitos entran en vigor el 20 de febrero, por lo que los servicios tendrán que, en pocos días, establecer el etiquetado y una moderación más estricta de los materiales creados o modificados con ayuda de la IA para evitar multas.

Se trata de una actualización de las normas indias en materia de tecnologías de la información que obligan a las plataformas digitales a aplicar «medidas técnicas razonables y apropiadas», para que los usuarios no publiquen ni difundan vídeos y grabaciones de audio ilegales generados por IA.

Si tal contenido no se bloquea, debe acompañarse de mecanismos para identificar el origen, por ejemplo, metadatos persistentes que permitan entender cómo se creó o editó exactamente el material. Para las redes sociales, se establecen requisitos específicos de autodeclaración, verificación de esas marcas y un etiquetado visible, de manera que el origen sintético sea evidente de inmediato, incluidas las señales de voz para el audio generado por IA.

En la práctica no es fácil cumplir este requisito. Incluso los enfoques de atribución más avanzados, como C2PA, se basan en metadatos que se añaden en el momento de creación o edición. Las grandes empresas ya están adoptando este estándar, pero no resuelve el problema por completo.

Las etiquetas a menudo pasan desapercibidas, parte del material con los metadatos necesarios se pierde, y el contenido sintético procedente de modelos abiertos o aplicaciones que ignoran los estándares voluntarios no contiene inicialmente señales de origen. Otro problema es la compatibilidad y la conservación de los datos, ya que los metadatos se pueden eliminar fácilmente, y algunas plataformas pueden «recortarlos» accidentalmente al subir archivos. Al mismo tiempo, los requisitos indios insisten en que el etiquetado y los metadatos no deben ocultarse, modificarse ni eliminarse.

Los países con grandes audiencias marcan el rumbo de toda la industria, y la India es especialmente importante: alrededor de 1.000 millones de personas usan Internet allí. Según DataReportal, en el mercado indio hay aproximadamente 500 millones de usuarios de YouTube, 481 millones en Instagram, 403 millones en Facebook y 213 millones en Snapchat, y se considera que X es el tercer mercado más grande para la plataforma.

La presión se intensifica también por otra norma: el plazo para retirar material ilegal se reduce a 3 horas desde su detección o de una denuncia, en lugar de las anteriores 36 horas. La Internet Freedom Foundation considera que este ritmo empuja a las plataformas a eliminar de forma automática y excesiva sin una verificación humana completa.

Al mismo tiempo, las propias formulaciones de las enmiendas indias permiten implantar mecanismos de detección del origen "dentro de lo técnicamente factible", lo que reconoce de forma implícita la inmadurez de las tecnologías actuales de detección y etiquetado. Para la industria, esto se convierte en una prueba corta pero reveladora: o las herramientas de atribución comienzan a funcionar significativamente mejor, o las plataformas tendrán que reconocer públicamente la necesidad de nuevos enfoques.