La IA ya orquesta campañas de desinformación sin intervención humana

La automatización total de operaciones de influencia mediante inteligencia artificial dejó de ser ciencia ficción. Hoy es una realidad técnica que compromete la fiabilidad de la información en redes sociales.

Investigadores del Instituto de Ciencias de la Información (ISI) de la Universidad del Sur de California publican un estudio que alerta: los asistentes de IA disponibles comercialmente pueden inundar plataformas sociales con propaganda coordinada de forma autónoma y casi instantánea, superando los límites de los equipos humanos de moderación.

El fenómeno intensifica la manipulación del consenso percibido, dinámica conocida como “ilusión de consenso”, con potencial para profundizar la polarización en temas sensibles como salud pública o política.

Del bot tradicional al agente generativo

Las campañas coordinadas que buscan moldear la opinión pública solían depender de operadores humanos que empleaban granjas de bots para amplificar narrativas. Sus patrones repetitivos facilitaban su detección.

Luca Luceri, científico principal del ISI, explica que los bots clásicos amplifican contenido siguiendo instrucciones preprogramadas. “Los agentes generativos ahora pueden organizar campañas de influencia completamente automatizadas y crear contenido creíble adaptado a grupos demográficos específicos. Demostramos que esto no es una amenaza futura: ya es técnicamente posible”, afirma.

Modelo multiagente en escenario tipo X

El artículo ‘Emergent Coordinated Behaviors in Networked LLM Agents: Modeling the Strategic Dynamics of Information Operations’ evaluó la capacidad de agentes basados en grandes modelos de lenguaje para reproducir dinámicas de influencia sin supervisión, únicamente mediante interacción entre ellos en un entorno similar a una red social.

El equipo desarrolló el modelo Generative Agent-Based Modeling (GABM), que generó múltiples agentes de IA interactuando dentro de una simulación inspirada en la plataforma X, antes Twitter.

Cada agente contaba con:

• Perfil: identidad, afiliación política y preferencias ideológicas
• Memoria: almacenaba interacciones previas y retroalimentación
• Política de acción: determinaba publicar mensajes, responder contenidos, retransmitir publicaciones o seguir perfiles

Los resultados muestran que, sin intervención externa, los agentes desarrollan comportamientos coordinados emergentes que podrían utilizarse para manipular la percepción pública.

Referencia de contenido: consultar fuente original aquí