ChatGPT no es tu amigo: el responsable de Signal explica por qué no deberíamos permitir que la IA entre en los chats privados

La privacidad en los servicios de mensajería cada vez depende menos de un solo hackeo y más de la confianza en los servicios a los que los usuarios mismos dan acceso a sus conversaciones y datos. La presidenta de Signal, Meredith Whittaker, en una entrevista con Bloomberg advirtió, que los chatbots de IA como ChatGPT y Claude no deben considerarse amigos, interlocutores ni sistemas inteligentes.

Whittaker reconoció que a veces utiliza esas herramientas para tareas sencillas como el formateo de documentos, pero no las consulta para resolver dudas. Según la presidenta de Signal, el trabajo sobre la idea y el texto debe seguir siendo humano, y el sistema generativo promedia materiales ya existentes y puede sustituir el propio proceso de razonamiento con una respuesta preparada.

El riesgo principal, según su valoración, no surge del hecho de comunicarse con un chatbot, sino de ampliar su acceso a otras aplicaciones y servicios. El motivo fue el escenario planteado por Mustafa Suleyman, responsable de Microsoft AI, quien sugirió que Copilot podría encargarse de las compras navideñas y entender los deseos de los familiares a partir de la correspondencia familiar.

Whittaker describió ese escenario como un sistema con acceso al servicio de mensajería, al navegador, a la tarjeta bancaria, a la dirección del domicilio, al calendario y la capacidad de escribir a los familiares en nombre del usuario. En el caso de un servicio de mensajería protegido, tal integración, según su valoración, se convertiría en un canal alternativo de acceso.

Signal construye la seguridad en torno a la limitación del acceso al contenido de las conversaciones, por lo que una integración profunda con un asistente universal de IA entra en conflicto directo con el modelo de privacidad del servicio. Whittaker no habla de un ataque real o de una vulnerabilidad encontrada, sino que advierte sobre un posible escenario en el que la comodidad de la automatización exige conceder al asistente permisos demasiado amplios.