Karma para los vendedores: antes retocaban las fotos de los productos, ahora los clientes manipulan imágenes para fingir defectos.

En los últimos meses en China han aumentado los casos de fraude con devoluciones en tiendas en línea relacionados con el uso de imágenes generadas por redes neuronales. Los compradores adjuntan fotos y vídeos falsos en los que supuestamente aparece el producto dañado y exigen el reembolso. Para confirmar tales reclamaciones, los vendedores por lo general no piden la devolución del producto, sobre todo si es perecedero o de bajo precio, lo que crea condiciones propicias para el engaño.

En la plataforma china RedNote surgieron numerosas quejas de empleados de soporte y vendedores en línea que notaron actividad sospechosa. En las fotos que acompañan las reclamaciones aparecen daños poco naturales, incoherencias en los detalles y errores en las imágenes que delatan el trabajo de algoritmos generativos. En una foto, el embalaje con marcaje chino contiene símbolos sin sentido; en otra, las grietas en una taza parecen dibujadas sobre papel.

Estas técnicas se aplican especialmente a productos que no son retornables: verduras y frutas, cosméticos baratos y objetos frágiles. Por ejemplo, un vendedor de cangrejos en la plataforma Douyin recibió de un cliente un vídeo en el que los mariscos supuestamente habían muerto durante el transporte. Sin embargo, como se comprobó después, el clip fue generado. La incongruencia del sexo de los cangrejos y de rasgos anatómicos, así como la postura extraña de los supuestos animales muertos, despertaron sospechas. El incidente llevó a una investigación policial y, como resultado, el comprador fue detenido por falsificar pruebas.

Este tipo de fraude se ha convertido en un problema notable fuera de China. Según la empresa estadounidense Forter, solo en el último año las reclamaciones que usan imágenes falsas aumentaron más del 15 por ciento. Además, estas acciones las realizan no solo usuarios individuales sino también grupos organizados. En uno de los casos, según Michael Reitblat, director de Forter, con ayuda de IA los delincuentes solicitaron devoluciones por más de un millón de dólares, usando a la vez cuentas falsas y suplantación de direcciones IP.

Algunos vendedores intentan combatir el problema con las mismas tecnologías. Una tienda china de juguetes mostró cómo cargar imágenes sospechosas en un chatbot ayuda a detectar falsificaciones. Pero incluso si la IA confirma la falsificación, las plataformas no siempre se ponen del lado de los vendedores. Esto, según representantes del sector, puede conducir a endurecer las normas de devolución, lo que afectará sobre todo a los compradores honestos.

Todo esto solo intensifica la preocupación previa, cuando los compradores se quejaban de imágenes generadas de los propios productos: al recibir el pedido obtenían algo que apenas se parecía a lo que mostraba la ficha del artículo. Ahora, con los servicios de IA accesibles para cualquiera y la posibilidad de fraude por parte del comprador, la situación solo empeora.

Las medidas de protección actuales, como marcas de agua o la verificación manual, ya no bastan. Para que los sistemas de comercio en línea funcionen con estabilidad se necesitan nuevos mecanismos de verificación, reglas de devolución revisadas y requisitos más estrictos para las pruebas digitales.