«Basta de insultos, jueguen con respeto»: Roblox obligará a su IA a disculparse por jugadores tóxicos

La plataforma Roblox decidió poner orden en el chat del juego y, al mismo tiempo, librar a los usuarios de las habituales «rejillas» que aparecen en lugar de palabras prohibidas. La empresa presentó una nueva función basada en inteligencia artificial. El sistema reescribe los mensajes ofensivos en tiempo real, preservando el sentido de la frase y el flujo normal de la conversación.

Roblox Corporation anunció el lanzamiento de una función de reformulación automática de mensajes. El algoritmo supervisa el chat durante el juego y reemplaza las groserías por formulaciones más neutras. Este enfoque debería mantener la dinámica de la comunicación y reducir la cantidad de conflictos entre participantes.

En la plataforma millones de usuarios se comunican cada día. La coordinación de acciones durante el juego a menudo ocurre directamente en el chat. Antes, cuando el filtro se activaba, en lugar del texto prohibido aparecía una línea de símbolos «####». Esos mensajes rompían el diálogo y hacían que la conversación fuera difícil de entender.

El nuevo sistema funciona de manera diferente. La inteligencia artificial analiza el mensaje y lo reescribe en una forma más correcta. Por ejemplo, la frase «¡Date prisa, joder!» antes se convertía en «####». Ahora el algoritmo cambiará el texto a «¡Date prisa!» y enviará el mensaje ya corregido.

Los desarrolladores aclararon que el objetivo de la función no es simplemente bloquear la vulgaridad, sino reconducir suavemente la conversación hacia un tono apropiado. Si el algoritmo modifica el texto, los participantes del chat verán una notificación indicando que el sistema reformuló el mensaje para cumplir las reglas de comportamiento.

La función opera únicamente dentro del chat del juego y está disponible para los usuarios que hayan confirmado su edad. El sistema también tiene en cuenta los grupos de edad de los participantes de la conversación. La compatibilidad está disponible en todos los idiomas que la plataforma traduce automáticamente.

Durante el desarrollo de la herramienta, la compañía consultó con miembros del consejo juvenil de Roblox. Los adolescentes ayudaron a ajustar el sistema para que los mensajes corregidos sonaran de forma natural y no rompieran el estilo habitual de comunicación.

Roblox también mejoró el mecanismo principal de filtrado de mensajes. El sistema actualizado reconoce mejor los intentos de eludir las restricciones, por ejemplo el llamado modo leet de escribir, cuando se sustituyen letras por cifras o símbolos. Las pruebas mostraron un aumento notable de la precisión.

Según datos de la compañía, la nueva versión del filtro detecta 20 veces mejor los mensajes en los que los usuarios intentan transmitir o solicitar datos personales. Se trata, por ejemplo, de números de teléfono o enlaces a cuentas en redes sociales.

La compañía reconoce que no existe un sistema de moderación perfecto. No obstante, los desarrolladores consideran que la nueva herramienta es un paso importante hacia una comunicación más tranquila y comprensible dentro de Roblox. En el futuro la plataforma planea continuar desarrollando las herramientas de seguridad y añadir nuevos elementos de control para los usuarios.