Manipulación digital: cómo operan las granjas de bots con IA

Un reciente fallo técnico en la red social X (antes Twitter) volvió a dejar al descubierto el funcionamiento de las granjas de bots y la manipulación coordinada en plataformas digitales. 

El episodio ocurrió el pasado 25 de agosto, cuando el director de Realización Audiovisual de la Presidencia de la Nación, Santiago Oría, publicó un mensaje que recibió respuestas inmediatas con etiquetas internas visibles como “Reply11”, “Reply8” o “Reply2”.

Este error de automatización expuso comandos del sistema que debían permanecer ocultos en comentarios como "Reply11: Terrible lo de los kirchneristas", revelando patrones de amplificación automatizada en cuentas que publicaban habitualmente en inglés, difundían contenidos sobre criptomonedas o declaraban ubicaciones fuera de la Argentina.

Aunque el suceso no permite determinar la autoría ni el control de esas cuentas, visibilizó la fabricación de "multitudes digitales" para simular consenso o apoyo popular.

El fenómeno, analizado por la Agencia de Noticias Científicas de la Universidad Nacional de Quilmes (UNQ) a partir de aportes de la periodista María Ximena Pérez, muestra cómo estas granjas buscan manipular el valor cuantitativo de las redes: una publicación con miles de interacciones fabricadas atrae la atención de usuarios reales, instalando debates de forma artificial.

La huella automatizada 

Un bot social es una cuenta automatizada programada para publicar, responder, compartir y seguir usuarios. Según uno de los mayores estudios comparativos citados por la Agencia UNQ —que analizó casi 5.000 millones de publicaciones de 200 millones de usuarios en siete grandes acontecimientos globales—, aproximadamente el 20% de la actividad correspondió a bots y el 80% a humanos.

Históricamente, los bots tradicionales dejaban patrones detectables:

Estructuras simples: Uso excesivo y repetitivo de hashtags.

Comportamiento anómalo: Respuestas descontextualizadas, publicaciones en horarios improbables y mensajes idénticos replicados en red.

Falta de complejidad: Interacciones conversacionales limitadas frente a la complejidad del lenguaje humano.

La inteligencia artificial generativa

La irrupción de los modelos de lenguaje basados en inteligencia artificial (IA) generativa está transformando la manipulación digital. A diferencia de la automatización rígida, la IA permite generar cientos de respuestas variadas, adaptar tonos (indignado, moderado, irónico), cometer errores de tipeo intencionales y sostener identidades complejas.

Un experimento reciente realizado por universidades europeas reveló el alcance de esta tecnología: investigadores tomaron conversaciones reales de la plataforma Reddit y pidieron a los modelos GPT-4o y Llama 3 70B que generaran discusiones artificiales completas sobre los mismos temas. Al someter las interacciones al escrutinio humano:

Las conversaciones creadas íntegramente por IA fueron confundidas con discusiones humanas en un 39% de los casos. En el caso específico del modelo Llama 3, los participantes solo lograron identificar el origen artificial en el 56% de las oportunidades.

Esta capacidad facilita la simulación de intercambios entre perfiles inexistentes pero con personalidades diferenciadas (por ejemplo, perfiles con posturas contrapuestas que debaten entre sí), eliminando la necesidad de infraestructura física masiva de dispositivos.

Astroturfing y los desafíos para la detección 

Esta técnica de simulación de apoyo popular masivo se denomina astroturfing, un término derivado de una marca de césped sintético (AstroTurf) que parodia al concepto de movimientos sociales espontáneos (grassroots). El objetivo principal es proyectar una apariencia de consenso o indignación orgánica mediante volumen y repetición.

Para identificar estas operaciones, los investigadores evitan juzgar cuentas de manera individual y analizan la red en su conjunto mediante patrones cruzados:

• Frecuencia y horarios de publicación.
• Antigüedad de las cuentas y vínculos entre perfiles.
• Velocidad de difusión del contenido.
• Coordinación simultánea entre múltiples usuarios.

Pese al avance de herramientas de detección basadas en IA, los especialistas advierten que la tecnología de generación evoluciona a la par para evadir los controles, planteando un desafío creciente para distinguir entre consenso social auténtico y corrientes de opinión fabricadas en el entorno digital.