Científicos integraron IA en Reddit por el bien de la ciencia, pero ahora enfrentan una demanda de la propia plataforma

Reddit está considerando presentar una demanda contra investigadores de la Universidad de Zúrich que llevaron a cabo un experimento encubierto con redes neuronales en el popular subreddit r/changemyview. Así lo anunció Ben Lee, principal asesor jurídico de la plataforma, calificando las acciones de los científicos como “no éticas e inaceptables”.

Según se descubrió, los investigadores introdujeron decenas de chatbots sin notificar ni a la administración de Reddit ni a los moderadores del subreddit, los cuales participaron en debates con los usuarios sobre temas polémicos. Los bots se hacían pasar por personas de grupos vulnerables —por ejemplo, víctimas de abuso sexual, psicólogos especializados en trauma o personas negras críticas del movimiento Black Lives Matter. Todo esto ocurrió sin el consentimiento de los usuarios.

Además, mediante otro modelo de IA, los investigadores analizaron el historial de publicaciones de cada participante en los debates para intentar determinar su edad, género, etnia, ubicación y orientación política. Los datos recopilados se utilizaron para aumentar la “persuasión” de los bots. Uno de los prompts, publicado en el borrador del estudio, afirmaba que los usuarios habían dado su consentimiento para el uso de sus datos, aunque en la práctica nadie sabía del experimento.

El departamento legal de Reddit sostiene que la compañía se enteró del incidente solo después de finalizado el experimento. Todas las cuentas relacionadas con el estudio ya han sido bloqueadas, y la plataforma está reforzando sus mecanismos para detectar contenido no auténtico. Según Lee, las acciones de los investigadores violaron no solo los términos de uso de Reddit, sino también principios fundamentales de derechos humanos y ética científica.

La Universidad de Zúrich confirmó la realización del experimento, pero declaró que sus resultados no serán publicados. Representantes de la universidad explicaron que el comité de ética ya había advertido sobre los riesgos del proyecto y recomendó cambiar el enfoque, así como informar claramente a los participantes y cumplir estrictamente con las normas de la plataforma. Sin embargo, se enfatiza que las recomendaciones del comité no tienen fuerza legal, y que la responsabilidad recae totalmente en los científicos.

Tras el incidente, el comité planea endurecer el proceso de evaluación de futuras investigaciones y exigir la aprobación previa de las comunidades en línea. La universidad ha iniciado una investigación interna y prometió revisar su enfoque hacia la evaluación ética de este tipo de proyectos.

Los nombres de los investigadores siguen sin revelarse. El borrador del artículo científico fue publicado sin autores, y la comunicación con el público se realizó a través de un correo electrónico anónimo. Incluso el departamento al que pertenecían los autores sigue siendo desconocido. Los moderadores del subreddit se negaron a divulgar las identidades de los participantes, citando cuestiones de confidencialidad.