Creíste en estas publicaciones, pero fueron escritas por IA: los bots políticos se han apoderado de las redes sociales

Unos delincuentes desconocidos utilizaron la popular red neuronal Claude como parte de una campaña masiva de influencia encubierta en redes sociales. Según datos de los especialistas de Anthropic, mediante inteligencia artificial se coordinó una red compuesta por cientos de personajes con matices políticos, presentados como usuarios reales en las plataformas Facebook y X. Estas cuentas interactuaban con decenas de miles de usuarios reales, promoviendo ciertas narrativas políticas y económicas.

A diferencia de los ataques habituales con picos bruscos de actividad, esta operación se centró en una presencia prolongada e influencia gradual. Las cuentas promovían posturas moderadas relacionadas con los intereses de diversos países, desde Europa e Irán hasta Emiratos Árabes Unidos y Kenia. En particular, las publicaciones elogiaban las ventajas de hacer negocios en los EAU, criticaban las regulaciones europeas y abordaban temas de seguridad energética e identidad nacional.

En varias publicaciones se expresaba apoyo a políticos específicos de Albania y se criticaba a sus oponentes en uno de los países europeos. En el segmento keniano de las redes sociales, la atención se centraba en iniciativas de desarrollo y la promoción de ciertas figuras políticas.

Los especialistas señalan que la red neuronal se utilizaba no solo para generar contenido, sino también para determinar el momento en que una cuenta automatizada debía dar "me gusta", comentar o compartir. Claude actuaba como coordinador, tomando decisiones en base a lineamientos políticos preestablecidos. Todos los personajes interactuaban bajo una lógica estricta definida en formato JSON, conservando un historial de acciones, temas clave y características personales. Esto permitía imitar el comportamiento de personas reales y operar de forma sincronizada en diferentes plataformas.

Los organizadores prestaban especial atención a la imagen de sus cuentas. Si surgían sospechas sobre su autenticidad, la red neuronal las dirigía a responder con sarcasmo y humor, para suavizar un posible desenmascaramiento. Estas medidas, según los especialistas, evidencian un alto nivel de preparación y una planificación a largo plazo de la campaña maliciosa.

Anthropic plantea que la operación forma parte de un esquema comercial en el que la red neuronal se alquila a clientes de distintos países. Ya se han identificado al menos cuatro campañas independientes construidas sobre una arquitectura similar.

En el mismo informe, la empresa mencionó otros intentos de abuso de las capacidades de Claude. Por ejemplo, uno de los delincuentes la utilizó para recopilar datos sobre filtraciones de contraseñas de cámaras de videovigilancia y para generar combinaciones destinadas a hackear recursos en línea. En otro caso, Claude procesaba datos de canales de Telegram dedicados a información robada, creaba scripts para el análisis de sitios web y optimizaba herramientas de búsqueda utilizadas por los propios criminales.

También se registraron casos en los que Claude fue utilizado para mejorar anuncios fraudulentos de ofertas de empleo dirigidas a habitantes de Europa del Este. Otro usuario, con conocimientos básicos, logró crear software malicioso mediante la red neuronal, con capacidades para eludir sistemas de protección y buscar víctimas en la dark web.

En Anthropic destacan que cada vez aparecerán más amenazas de este tipo a medida que las redes neuronales sean más accesibles. El uso de IA borra la línea entre principiantes y ciberdelincuentes experimentados, acelerando bruscamente su "crecimiento profesional" y poniendo en sus manos herramientas más peligrosas.

A pesar de los esfuerzos regulares por reforzar la seguridad e implementar sistemas de control, los delincuentes siguen encontrando formas de evadirlos. Los estafadores incluso aprovechan pequeñas vulnerabilidades en la arquitectura de los modelos, adaptando sus esquemas a los nuevos algoritmos. Esto genera una carrera constante entre los desarrolladores y quienes buscan utilizar las redes neuronales con fines maliciosos.