Un estafador te escribe y tu teléfono ya lo detectó: WhatsApp lanza un nuevo sistema antifraude.

WhatsApp está preparando una función que podrá advertir sobre mensajes fraudulentos sin enviar las conversaciones del propietario del smartphone a la propia empresa. El nuevo sistema Scam Alert analiza los mensajes sospechosos directamente en el dispositivo y funciona junto con el cifrado de extremo a extremo, por lo que el contenido de los chats para su comprobación no abandona el teléfono.

La función por ahora ha aparecido solo para un grupo limitado de participantes en la prueba beta. Tras activarla, WhatsApp descarga en el smartphone un pequeño modelo de aprendizaje automático. El modelo verifica los mensajes entrantes de personas que no están en la lista de contactos y busca señales de conocidos esquemas fraudulentos. Para el entrenamiento, los desarrolladores utilizaron patrones extraídos de conversaciones que los usuarios anteriormente enviaron a WhatsApp a través del sistema de denuncias.

Si el programa detecta indicios de engaño, aparece dentro del chat una advertencia que el interlocutor no ve. El destinatario puede bloquear al remitente, denunciarlo o continuar la conversación. En caso de advertencia errónea, se puede marcar el chat como confiable, tras lo cual Scam Alert dejará de examinarlo. El usuario también podrá enviar voluntariamente a WhatsApp los últimos cinco mensajes recibidos para ayudar a mejorar la precisión del modelo.

Los desarrolladores se esforzaron por impedir la posibilidad de recopilación oculta de datos. El contenido de los mensajes no se transmite automáticamente ni a WhatsApp, ni a Meta, ni a otras organizaciones. Para evaluar la calidad, el sistema cuenta solo el número aproximado de advertencias y de acciones posteriores de los usuarios. Antes de enviarlos, el smartphone agrupa esos eventos en indicadores desidentificados, y el procesamiento en el servidor se realiza en un entorno protegido. Luego se añade ruido matemático a las estadísticas para que con los valores finales no sea posible reconstruir las acciones de una persona individual.

WhatsApp también intenta hacer la verificación del modelo accesible desde el exterior. Cada versión de Scam Alert, antes de su distribución, aparece en un registro público de transparencia junto con las sumas de comprobación de los archivos. Los manifiestos los firma además Cloudflare, y la clave de firma no pertenece a Meta. El smartphone verifica la firma, la inscripción en el registro y las sumas de comprobación de los archivos descargados y se niega a ejecutar el modelo si falla al menos una comprobación.

Este mecanismo debería impedir que WhatsApp envíe a una persona concreta un modelo especialmente modificado sin aviso. Las solicitudes de carga pasan por un intermediario que oculta la dirección IP, y los grupos experimentales se eligen al azar directamente en el smartphone. Todas las variantes de modelos, incluidas las de prueba, deben aparecer previamente en el registro público.

La compañía tiene previsto publicar los parámetros de los modelos para que los especialistas en seguridad puedan verificar por sí mismos su propósito y comportamiento. También prometen a los usuarios un registro dentro de la aplicación, donde se podrá ver qué mensajes verificó Scam Alert, cuál fue el resultado del sistema y qué versión del modelo estaba funcionando en ese momento. WhatsApp ampliará el programa de recompensas por vulnerabilidades descubiertas e incluirá en él nueva infraestructura.

De momento, Scam Alert sigue siendo una función experimental y voluntaria. WhatsApp planea mejorar el sistema según los resultados de la prueba beta antes de su lanzamiento más amplio. La principal característica técnica del enfoque es que el fraude se reconoce en el propio teléfono, y los servidores obtienen solo estadísticas agregadas desidentificadas, y no el contenido de las conversaciones personales.