Tu chat “privado” con la IA puede llegar a manos de la policía — un caso reciente puso a prueba los límites de la privacidad
A veces basta menos de lo que parece para que un mensaje tenga consecuencias.
La conversación con la IA resultó no ser tan privada como un diario personal. En Florida arrestaron a una mujer después de que el sistema de seguridad de Anthropic detectara en su intercambio con Claude una amenaza de ataque a la oficina del sheriff, remitiera el diálogo a una revisión manual y los empleados de la empresa informaran del contenido a las autoridades.
El informe de arresto que revisó WINK News vincula el caso con dos mensajes. El 26 de septiembre la usuaria escribió sobre su intención de llevar a cabo un tiroteo en la oficina del sheriff del condado de Lee, y al día siguiente declaró que tenía un arma nueva. La investigación considera que la gravedad de las formulaciones provocó la escalada de la conversación dentro de Anthropic.
Según la investigación, los mecanismos automáticos de la plataforma rastrean frases clave y contenido potencialmente peligroso. Tras activarse las protecciones, un equipo humano revisó la conversación y decidió ponerse en contacto con la policía. El propio Claude no envió la denuncia por sí solo; por ello funcionó la combinación de detección automática y verificación humana.
Los agentes de la oficina del sheriff identificaron a Carli Michelle Heller, de 30 años, y la detuvieron en su casa sin incidentes. El sheriff Carmine Marceno contó que Heller llamaba a la IA su «diario». Se le imputó el cargo de amenaza escrita de violencia. La sección 836.10 de las leyes de Florida abarca registros electrónicos con amenazas de tiroteo masivo y considera la infracción un delito grave de segundo grado.
El caso muestra el límite práctico de la privacidad de los chatbots. Anthropic indica que puede entregar información sin la solicitud legal habitual si considera la situación de emergencia y la divulgación puede prevenir un daño físico inminente o la muerte. Las normas públicas prevén expresamente ese escenario, por lo que la conversación con Claude no puede considerarse un registro accesible únicamente al titular de la cuenta.
Un caso similar ocurrió en septiembre con ChatGPT, cuando OpenAI entregó información a las autoridades tras detectar una amenaza a un menor. Entonces la conversación también salió del marco de la interacción habitual con el chatbot y pasó a formar parte de una investigación policial. Las historias difieren en las circunstancias, pero ambas muestran que los mensajes en servicios de IA pueden llegar a personas y a las fuerzas del orden.
La culpabilidad de Heller no ha sido determinada por un tribunal. Según WINK News, la fecha de comparecencia en el juzgado está fijada para noviembre. Anthropic no ha revelado públicamente los criterios internos por los que una conversación concreta pasó del filtro automático a la revisión humana y luego a las autoridades. Por tanto, el umbral exacto tras el cual la correspondencia del usuario se convierte en un mensaje de emergencia sigue siendo desconocido. El resultado del caso aún se desconoce.