¿Un striptease creado por una IA es ahora «libertad de expresión»? Las autoridades británicas intentan explicarle a Musk las normas de decencia.

Incluso después de las declaraciones rotundas sobre la lucha contra el contenido explícito generado por IA, la plataforma X continúa permitiendo videos sexualizados creados con su propia herramienta Grok. El motivo es que las restricciones prometidas se eluden con facilidad mediante una aplicación web separada.

Periodistas de The Guardian pudieron subir fotografías de mujeres reales completamente vestidas y pedir a Grok que las "vistiera" con bikinis. En lugar de un simple cambio de ropa, el servicio generó automáticamente videos cortos en formato de striptease, donde las mujeres supuestamente se quitan la ropa hasta quedarse en bikini. Los videos resultantes se publicaban sin problemas en el feed público de X y quedaban disponibles para su visualización prácticamente de inmediato.

Esto parece una elusión directa de las medidas anunciadas por la empresa el 14 de enero. En esa ocasión X declaró que había implementado restricciones técnicas que prohíben la edición de imágenes de personas reales con el fin de crear ropa explícita, incluidos los bikinis. La compañía subrayó que la política se aplica a todos los usuarios y declaró tolerancia cero ante la explotación de menores, la desnudez no consentida y el contenido sexual no deseado. Sin embargo, no se especificó si las prohibiciones afectan a la versión web de Grok Imagine.

La comprobación mostró que es precisamente a través de esa herramienta de navegador que las restricciones no funcionan en la práctica. El sistema sigue respondiendo a las solicitudes para "desnudar" a mujeres e incluso amplía las peticiones hasta la generación de video.

Organizaciones de defensa de los derechos reaccionaron con dureza ante el hallazgo. Representantes de End Violence Against Women Coalition declararon que una vulnerabilidad tan sencilla indica la falta de atención de la plataforma al problema de la humillación de las mujeres en internet. En Fawcett Society añadieron que la industria tecnológica sigue priorizando el crecimiento y el "hype" por encima de la dignidad y la seguridad de las usuarias.

Anteriormente Reuters también informó que los periodistas lograron obtener imágenes explícitas a través de Grok incluso después de las restricciones anunciadas.

Las autoridades británicas adoptaron una postura de espera. La ministra de Tecnología Liz Kendall acogió favorablemente las medidas de X, pero subrayó que Ofcom debe establecer minuciosamente los hechos en el marco de la investigación ya iniciada. El primer ministro Keir Starmer recordó que la libertad de expresión no da derecho a vulnerar el consentimiento ajeno y exigió el cumplimiento inmediato de la ley.

El regulador Ofcom confirmó que la investigación contra X continúa y que los especialistas trabajan para esclarecer las causas del incidente y las posibles infracciones.

Mientras tanto, el escándalo inesperadamente benefició al propio Grok. Elon Musk publicó un gráfico de Google Trends en el que las búsquedas relacionadas con el servicio aumentaron bruscamente y lo acompañó con una breve invitación a probar Grok.

Según el gobierno británico, la Ley de seguridad en Internet ya obliga a las plataformas a bloquear imágenes íntimas ilegales sin consentimiento. Además, las autoridades preparan una disposición penal separada contra los servicios que crean contenido de carácter íntimo.