Un algoritmo de seguridad bloqueó injustamente a más de ocho mil cuentas por un fallo absurdo.

La moderación automática debería filtrar rápidamente los materiales peligrosos, pero una falla reciente en el sistema de Discord produjo el efecto contrario: la plataforma bloqueó alrededor de 8400 usuarios por imágenes inofensivas.
La falla afectó a cuentas que desde mayo de 2026 cargaban imágenes con una cuadrícula de cuadrados. El sistema comparaba las imágenes con una base de datos de materiales maliciosos conocidos y por error tomaba como contenido prohibido tableros de ajedrez, inventario de Minecraft y otros patrones similares.
El filtro no reconocía los objetos en sí, sino que comparaba las huellas digitales simplificadas de las imágenes. Cuadrados contrastados repetidos podían hacer que la huella de una imagen inofensiva se pareciera a la de material prohibido, provocando que el sistema iniciara una revisión.
Tras tal coincidencia, Discord debía suspender temporalmente la subida de archivos y remitir el material a un empleado de seguridad para su revisión. Sin embargo, un error de software iniciaba inmediatamente el proceso de bloqueo de la cuenta. Además, al mismo tiempo existía otra falla en el sistema que impedía cancelar automáticamente el castigo tras completarse la verificación.
Según Discord, desde mayo hasta principios de julio el problema afectó a alrededor de 8200 cuentas; otros aproximadamente 200 usuarios fueron bloqueados el pasado fin de semana. La compañía declaró que ha restaurado el acceso a todos los afectados y que empezó a reforzar los mecanismos de protección para que errores similares no conduzcan al castigo de usuarios inocentes.