ChatGPT se ha convertido en un soplón digital: todos tus secretos ya han sido vendidos al estado

El sistema judicial estadounidense se ha visto envuelto en una polémica en torno a la privacidad de los usuarios de ChatGPT después de que un tribunal federal ordenara a OpenAI almacenar indefinidamente los registros de chat de todos los usuarios, incluidos los mensajes eliminados. Esta decisión se tomó en el marco de un caso relacionado con la supuesta infracción de derechos de autor iniciado por varios grandes grupos de medios de comunicación.

Anteriormente, en mayo, la jueza Ona Wang, que firmó esta orden, rechazó el primer intento de un usuario de intervenir en el caso, ya que representaba los intereses de su empresa, pero lo hizo sin la participación de un abogado profesional. Sin embargo, el intento más reciente de otro usuario, Aidan Hunt, de llamar la atención del tribunal sobre el problema del almacenamiento masivo de datos personales, también fracasó, a pesar de una declaración más fundamentada.

Hunt, en su escrito al tribunal, destacó que utiliza ChatGPT ocasionalmente, introduciendo en el sistema "información personal y comercial extremadamente sensible". Afirmó que, en su opinión, la decisión judicial crea de facto "un programa de vigilancia masiva" sobre todos los usuarios de ChatGPT en el país, sin previo aviso alguno. Según él, incluso los chats eliminados o anónimos ahora están sujetos a almacenamiento obligatorio, lo que vulnera las garantías constitucionales básicas de privacidad.

Lo que más preocupa a Hunt es que, aunque sólo se conserven las respuestas del modelo y no las consultas de los usuarios, esto cambia poco, ya que el contenido de las respuestas suele reflejar directamente las preguntas originales, incluidas las de carácter personal y sensible. Supo de la decisión judicial por casualidad, al leer sobre ello en Internet, y posteriormente recurrió al tribunal alegando que se habían vulnerado sus derechos garantizados por la Cuarta Enmienda de la Constitución de EE.UU., así como las normas del derecho procesal.

En su petición, Hunt solicitó la anulación o revisión de la orden judicial, insistiendo, al menos, en la exclusión del almacenamiento de todos los chats anónimos y las conversaciones que contengan información médica, financiera, jurídica y otros datos personales no relacionados con la demanda de los grupos de medios de comunicación.

Sin embargo, la jueza Wang no estuvo de acuerdo con los argumentos del usuario. En su decisión, subrayó que no se trata de vigilancia masiva, sino de una práctica jurídica estándar en la que se ordena a las empresas conservar datos para los fines del proceso judicial. Indicó específicamente que el poder judicial no es un órgano de orden público y que sus decisiones no equivalen a la creación de un programa de vigilancia.

No obstante, los expertos en derechos digitales consideran que la situación sienta un precedente preocupante. Como señaló Corinne McSherry, directora jurídica de Electronic Frontier Foundation, decisiones como ésta pueden convertirse en una vía para ampliar el control corporativo y el acceso a la información personal de los usuarios. Según ella, los precedentes en los que las autoridades o los demandantes solicitan masivamente datos sobre las acciones de los usuarios de chatbots son muy reales, y basta recordar casos similares con historiales de búsqueda o publicaciones en redes sociales.

La jueza Wang explicó que el objeto principal del litigio, la posible infracción de derechos de autor, no está directamente relacionado con el debate sobre la constitucionalidad del almacenamiento de datos de los usuarios. En su opinión, Hunt no tiene derecho procesal a intervenir en el caso, ya que su posición no afecta al establecimiento de los hechos relacionados con el fondo de la demanda.

Ahora, OpenAI se prepara para las audiencias orales programadas para el 26 de junio. Será entonces cuando la empresa podrá presentar al tribunal su postura sobre la inconveniencia de almacenar indefinidamente todos los registros de chat de los usuarios. Por el momento, no está claro hasta qué punto OpenAI defenderá activamente los intereses de los usuarios, dados los posibles riesgos de reputación y financieros.

El propio Hunt teme que OpenAI pueda llegar a un compromiso para acelerar la resolución del caso y reducir los costes, dejando en segundo plano las cuestiones de privacidad. Al mismo tiempo, subraya que los usuarios deberían haber sido notificados directamente de que sus chats, incluidos los mensajes eliminados, ahora se almacenan.

En este contexto, los expertos instan a las empresas que trabajan con IA a ser más transparentes: los usuarios deben recibir notificaciones claras sobre la política de almacenamiento de datos y cualquier solicitud de acceso a los mismos. De lo contrario, el espacio digital corre el riesgo de convertirse en otra zona de vigilancia encubierta en la que las fronteras entre los intereses corporativos y la vida privada se desdibujan por completo.