El supuesto "agente de IA" de Meta resultó ser un trabajador de un centro de llamadas

A veces, tras la voz de un asistente autónomo puede ocultarse un operador real. Meta está probando, para el agente de IA personal Muse, una capa de respaldo humana que acepta parte de las solicitudes y llama por su cuenta a las empresas en lugar del programa. Por ahora el mecanismo está en pruebas internas y no se ha anunciado como una función estándar para todos los usuarios.

Mensajes internos de la compañía que examinó 404 Media describen el sistema como una capa adicional para completar llamadas. Muse puede transferir la tarea a un operador capacitado, quien entonces se pone en contacto con la organización correspondiente, mantiene la conversación y obtiene el resultado en nombre del usuario.

La función principal parece completamente automática. El usuario pide a Muse reservar una mesa, pedir una cita en la peluquería o resolver otra cuestión por teléfono. El agente marca el número, conversa con el empleado de la empresa y luego devuelve la transcripción de la llamada y un resumen breve. Sin embargo, Meta aún no ha revelado las condiciones exactas en las que el control pasa del programa al operador.

Precisamente la opacidad provocó disputas dentro de la compañía. Según los materiales de la discusión interna, algunos empleados que evaluaban el nuevo esquema no sabían de antemano que su solicitud sería entregada a un operador humano. Los evaluadores supieron de la participación humana después de la llamada, aunque podían haber transmitido a Muse información esperando hablar solo con el sistema automatizado.

Esa arquitectura cambia el modelo de privacidad. Para reservar en un restaurante las consecuencias son mínimas, pero al asistente se le puede encargar una cita médica, negociaciones con el banco u otras tareas con datos sensibles. En los materiales internos Meta indicó que los contratistas reciben una capacitación especial para trabajar con datos de usuarios, sin embargo los empleados de la compañía cuestionaron si una sola capacitación es suficiente como medida de protección.

Meta presentó a Muse el 8 de septiembre como un agente personal capaz no solo de responder preguntas sino también de ejecutar tareas por sí mismo. El servicio opera en una Muse Secure VM independiente, almacena los datos conectados y las credenciales en un entorno protegido y solicita confirmación antes de algunas acciones sensibles.

Los amplios permisos de ese asistente ya habían llamado la atención de expertos en seguridad. En septiembre, en el cliente de Muse para macOS se encontró un zero-day que permitía a un proceso local redirigir las solicitudes de voz del usuario. La historia de los operadores muestra otra cara del mismo problema: incluso un entorno protegido no resuelve las cuestiones de acceso si los datos salen del circuito automatizado para ejecutar una tarea.

La capa humana no puede considerarse por ahora una parte oculta de cada llamada de Muse. Los documentos internos describen la función como una prueba preliminar entre empleados, y no hay datos fiables sobre qué proporción de llamadas se transfiere a operadores. Tampoco está confirmado que ese esquema se aplique a todos los usuarios comunes de la versión beta pública de las funciones telefónicas.

Meta afirmó que las pruebas internas son precisamente para detectar problemas de este tipo antes del lanzamiento general. La compañía planea mejorar las protecciones y los mecanismos de información y promete no lanzar la función sin las notificaciones necesarias. La versión final podría diferir significativamente del esquema actual, por lo que la cuestión principal ahora no es tanto la participación de personas, sino qué tan claramente se mostrará al usuario el momento en que la solicitud se transfiera a un operador.