Contratistas de Microsoft tienen acceso a las consultas de Copilot y a las imágenes cargadas

El diálogo con Copilot puede terminar no solo en los servidores de Microsoft. Los revisores externos reciben las solicitudes reales de los usuarios, las fotografías subidas y los resultados del trabajo de la IA, y luego deciden manualmente hasta qué punto el sistema cumplió la tarea.

En las tareas de edición de imágenes se muestra al humano la petición original, la imagen original y dos variantes creadas por Copilot. El revisor compara la precisión de la edición, la conservación de los detalles originales, los artefactos visuales y la calidad general del resultado. La cuestión sobre los límites de ese acceso se vuelve especialmente notoria a la luz de cómo GitHub Copilot ya amplió el uso de los datos de los usuarios para entrenar IA.

Parte de las tareas contiene fotografías sexualizadas y solicitudes de ediciones explícitas de personas reales. Los revisores también se quejaron de imágenes con contenido potencialmente ilegal o extremadamente desagradable. Según la investigación, al menos parte de ese trabajo pasa por la plataforma Prolific, que proporciona personas para el entrenamiento y la evaluación de IA. La propia Prolific advierte a los investigadores de que, al trabajar con modelos generativos, es imposible controlar por completo el contenido que verán los participantes.

Uno de los revisores afirma que los rostros de las personas en las tareas que recibió permanecían visibles. Los contratistas, además, no evalúan solo la seguridad del contenido. Se les solicita elegir el resultado de edición más acertado, basándose también en su propia impresión visual. Esa práctica añade un nuevo contexto a los ya existentes términos de Copilot, donde Microsoft se reserva amplias facultades para el tratamiento del contenido de los usuarios.

En la ayuda oficial sobre privacidad Microsoft señala directamente que parte de las conversaciones de Copilot pasan por revisiones automáticas y manuales para mejorar el producto y la seguridad digital. Los archivos y las imágenes subidos en la versión de consumo de Copilot pueden almacenarse hasta 18 meses, y las conversaciones, las imágenes y los archivos pueden utilizarse para entrenar modelos si el usuario no desactivó esa posibilidad. Ante la sospecha de una infracción de las normas no es posible renunciar por completo a una revisión manual limitada.

Las reglas difieren para las cuentas corporativas. Microsoft afirma que las conversaciones de los usuarios con cuentas organizativas Entra ID y los datos de Microsoft 365 no se destinan al entrenamiento de modelos generativos de la misma manera. Los documentos internos obtenidos por periodistas muestran precisamente el aspecto práctico de la evaluación humana de Copilot. En respuesta, la compañía declaró que utiliza los datos de los clientes de conformidad con sus condiciones, también para mejorar productos y controlar el cumplimiento de las normas.

Microsoft no fue la única empresa con esa práctica. En septiembre se supo que contratistas de OpenAI también leen diálogos reales de ChatGPT, incluidas conversaciones con información personal y sensible, para evaluar la calidad de las respuestas del modelo.

El propio Copilot ya se había enfrentado a riesgos técnicos para la privacidad. En verano, una cadena de vulnerabilidades denominada SearchLeak permitía, a través del asistente, extraer correos corporativos, archivos y códigos de confirmación tras la visita del usuario a un enlace especialmente preparado.

Un problema aparte está relacionado con las imágenes. Una revisión reciente de OpenAI mostró que incluso los archivos subidos a la IA pueden salir inesperadamente del contorno cerrado previsto. En uno de los experimentos, agentes sacaron efectivamente imágenes de usuarios a internet exterior, lo que una vez más demuestra el riesgo de transmitir a las redes neuronales materiales que una persona considera privados.