Un filtro de correo electrónico con IA fue engañado con el mismo truco que se usaba en los años 2000.

Los correos de spam han aprendido a engañar no solo a las personas, sino también a los algoritmos que deben filtrarlos, y lo hacen mediante técnicas conocidas desde principios de los años dos mil. La empresa Barracuda informó sobre una nueva ola de ataques de phishing basados en la técnica «salado de texto».

Según Barracuda, desde abril se han registrado más de un millón de correos de phishing relacionados con compras en tiendas en línea que empleaban este método. Se basa en añadir al correo palabras aleatorias que parecen inofensivas, lo que hace que el sistema de filtrado deje de reconocer contenido malicioso y permita que el mensaje llegue al destinatario.

Para que tales inserciones no llamen la atención de una persona, los atacantes utilizan varias técnicas de ocultamiento. Una de ellas es comprimir el área visible del correo mediante CSS, de modo que el texto adicional quede fuera de la pantalla. Otra consiste en colocar palabras de relleno fuera de la zona visible del mensaje. La tercera es usar una fuente de tamaño cero, que inserta frases ajenas entre las líneas del texto de phishing de modo que solo las vea la máquina y no el lector.

Como resultado, al destinatario llega un correo que parece completamente normal, mientras que el sistema de filtrado lo interpreta como un conjunto de palabras inconexas y no detecta señales de amenaza. Las pasarelas de seguridad de correo electrónico convencionales llevan tiempo aprendiendo a enfrentar estos trucos: pueden revelar el texto oculto y reaccionar ante una cantidad sospechosamente alta de inserciones enmascaradas.

Con los sistemas basados en inteligencia artificial ocurre lo contrario: según Barracuda, esas herramientas por defecto procesan todo el texto del correo de la misma manera, sin distinguir lo que es visible para una persona de lo que está oculto. Se puede entrenarlas para que lo hagan, pero en la práctica la mayoría de esos sistemas no lo hace.

Para reducir el riesgo, Barracuda recomienda no confiar únicamente en la búsqueda de palabras clave y emplear un enfoque integral para la protección del correo: verificar la reputación del remitente, los resultados de autenticación, los enlaces incrustados, la forma en que se muestra el código HTML y las discrepancias entre el contenido visible y el oculto del mensaje.