Propaganda generada por IA

A · DEFINICIÓN

Qué significa esta categoría

Comunicación persuasiva organizada en la que la IA generativa crea, transforma de forma sustancial, localiza o produce masivamente texto, imágenes, audio, video, memes o documentos sintéticos.

Fuera de su alcance

No todo artefacto sintético es propaganda. La categoría requiere un objetivo político, ideológico, militar, comercial o institucional organizado.

Base de evidencia^[1]

B · POR QUÉ IMPORTA

Importancia estratégica y de interés público

La propaganda depende de la repetición, el momento, las señales de identidad y la distribución tanto como del realismo técnico. La IA amplía el volumen y la variedad de activos y también puede crear un dividendo del mentiroso en el que la evidencia auténtica se descarta como sintética.

Rol principal de la IA: Herramienta
Unidad de influencia: grupo / población
Grado de autonomía: Baja a moderada
Madurez de evidencia: Uso actual documentado

Base de evidencia^{[1, 2, 3]}

C · CÓMO LA IA LO CAMBIA

Qué cambia frente a la práctica previa a la IA

Los LLM pueden reescribir una narrativa central en muchos idiomas y estilos, mientras que los modelos de imagen, audio y video crean activos emocionalmente destacados que aparentan ser evidencia. Los equipos humano-máquina pueden igualar la propaganda humana en estudios controlados, pero los efectos conductuales en el mundo real siguen siendo difíciles de establecer.

Base de evidencia^{[1, 3]}

D · ESTADO DE LA CAPACIDAD

Separar evidencia actual de riesgo prospectivo

Uso real confirmado

Operaciones alineadas con Estados y comerciales han usado IA generativa para artículos, comentarios, traducción, presentadores sintéticos y voces clonadas.

Capacidad técnica demostrada

Experimentos controlados encuentran que la propaganda generada por IA puede ser casi tan persuasiva como material humano, especialmente con curación humana.

Desarrollo plausible a corto plazo

Es probable que aumenten la producción multimodal más rápida y la adaptación entre plataformas.

Afirmaciones especulativas o sin respaldo

Ninguna evidencia respalda control mental universal ni conversión fiable de exposición en acción.

Base de evidencia^{[1, 2, 3, 4, 5]}

E · MECANISMOS CLAVE

Mecanismos conceptuales, no procedimientos operativos

01

Variación lingüística y localización de alto volumen.

02

Medios sintéticos que explotan intensidad emocional y vacíos informativos.

03

Curación humana que selecciona resultados plausibles y elimina errores obvios.

04

Distribución mediante cuentas inauténticas, sitios engañosos, mensajería o llamadas automatizadas.

Base de evidencia^{[1, 3]}

F · EVIDENCIA Y EJEMPLOS

Qué ocurrió, qué se sabe y qué sigue sin saberse

El alcance, la interacción y la visibilidad no se tratan como prueba de persuasión o cambio conductual.

Comparar todos los casos con matices de la taxonomía

CopyCop / DC Weekly^{[1, 3]}

Qué ocurrió: Una red vinculada con Rusia usó reescritura generativa para ampliar producción en propiedades de noticias engañosas.
Estado de evidencia: El uso de IA fue confirmado mediante artefactos textuales y análisis longitudinal.
Efecto medido o documentado: El volumen de publicación y la amplitud narrativa aumentaron sin pérdida observada de persuasión medida por encuesta.
Qué sigue sin saberse: Los cambios a largo plazo en voto o política exterior no pueden aislarse de esta evidencia.

Llamada automatizada de las primarias de New Hampshire^{[1, 4]}

Qué ocurrió: Una voz clonada parecida al presidente Biden indicó a votantes que no participaran en las primarias de enero de 2024.
Estado de evidencia: El uso de clonación de voz y el consultor responsable fueron confirmados por medidas de ejecución.
Efecto medido o documentado: Aproximadamente 9.600 llamadas provocaron acciones regulatorias y legales importantes.
Qué sigue sin saberse: El número de votantes realmente disuadidos sigue sin cuantificarse.

Presentadores sintéticos de Wolf News^{[1, 5]}

Qué ocurrió: Una red prochina usó avatares sintéticos comerciales para presentar mensajes políticos en inglés.
Estado de evidencia: Los presentadores generados por IA y la red de distribución fueron documentados.
Efecto medido o documentado: Los videos generalmente recibieron muy poca interacción.
Qué sigue sin saberse: No está claro si fue una prueba de capacidad o una operación plenamente dotada.

G · RIESGOS Y MODOS DE FALLO

Riesgos de uso malicioso y razones por las que puede fallar

Riesgos principales

La evidencia sintética puede provocar acción antes de la verificación.
La conciencia sobre deepfakes puede explotarse para negar evidencia auténtica.
La producción barata puede desbordar la capacidad de verificación y moderación.

Base de evidencia^{[1, 2, 4, 5]}

Límites y modos de fallo

La distribución y la confianza siguen siendo más difíciles que la generación.
El realismo técnico depende del contexto y muchas campañas reciben poca atención orgánica.

Base de evidencia^{[1, 5]}

H · DETECCIÓN E INDICADORES DEFENSIVOS

Las señales son indicativas, no una prueba automática

Advertencia de falsos positivos: Ninguna puntuación de detector, estilo de escritura, artefacto de imagen, patrón de publicación o similitud política debe usarse por sí solo para acusar a una persona u organización.

Medios no verificados difundidos en un vacío informativo requieren verificación de fuente, no rechazo automático.
La infraestructura compartida y el tiempo coordinado suelen ser más informativos que puntuaciones de detectores.

Base de evidencia^{[1, 3, 4]}

I · GOBERNANZA Y SALVAGUARDAS

Controles por capas, supervisión y responsabilidad

Usar canales institucionales autenticados y verificación rápida en crisis.
Adoptar mecanismos de trazabilidad teniendo en cuenta la pérdida y la falsificación de metadatos.
Priorizar triaje a nivel de narrativa y fuente sobre desmentidos interminables pieza por pieza.

Base de evidencia^{[1, 4]}

Salvaguardas transversales relacionadas

La guía de resiliencia compara estos controles, sus límites y su contexto de evidencia en toda la taxonomía.

Alfabetización mediática y prebunking Verificación de fuentes y procedimientos de crisis Señales de trazabilidad y autenticidad Comunicación institucional y reparación de la confianza

Las conclusiones jurídicas dependen de jurisdicción y hechos; esta página resume el informe correspondiente y no es asesoramiento legal.

J · VACÍOS DE INVESTIGACIÓN

Preguntas que la evidencia aún no resuelve

Efectos conductuales longitudinales fuera de encuestas.
Cómo las etiquetas afectan contenido verdadero y falso en distintas audiencias.
Eficacia comparativa real de modalidades de medios sintéticos.

Base de evidencia^{[1, 2, 3]}

Comparar las preguntas de esta categoría en toda la agenda de investigación

K · FUENTES

Lista trazable de fuentes

El informe encargado es la fuente organizadora. Los registros externos siguientes son las fuentes principales conservadas para la síntesis pública; la calidad varía según el tipo y se etiqueta.

Las ediciones en inglés y español se publican desde el mismo registro estructurado. La paridad bilingüe se valida en cada versión; los títulos de las fuentes pueden conservarse en su idioma original de publicación.

Consultar el registro de casos entre categorías Consultar el registro de evidencia entre categorías Comparar la terminología utilizada entre categorías Comparar salvaguardas de resiliencia entre categorías Revisar la agenda transversal de preguntas abiertas

Informe de investigación encargado The Architecture of Artificial Influence: A Comprehensive Report on AI-Generated Propaganda
Enlaces de evidencia: 13
Investigación revisada por pares How persuasive is AI-generated propaganda?
Enlaces de evidencia: 4
Investigación revisada por pares Generative propaganda: Evidence of AI’s impact from a state-backed disinformation campaign
Enlaces de evidencia: 7
Registro oficial de aplicación normativa FCC 24-59 enforcement document
Enlaces de evidencia: 5
Cobertura secundaria de amenazas Deepfake news anchors spread Chinese propaganda on social media
Enlaces de evidencia: 4