A · DEFINICIÓN
Qué significa esta categoría
Uso intencional de audio, video, imágenes o medios multimodales sintéticos o manipulados para alterar percepciones, suplantar figuras confiables, fabricar evidencia, provocar acción, desacreditar evidencia auténtica o socavar confianza.
Fuera de su alcance
Los deepfakes son un subconjunto de medios sintéticos. Medios auténticos mal etiquetados, cheapfakes y ediciones híbridas pueden producir efectos psicológicos similares y deben distinguirse durante la verificación.
B · POR QUÉ IMPORTA
Importancia estratégica y de interés público
Audio y video suelen tratarse como evidencia directa. Medios sintéticos pueden explotar esa confianza durante elecciones, conflicto armado, transacciones financieras o tensión comunitaria, y también permitir que responsables nieguen grabaciones genuinas.
- Rol principal de la IA
- Herramienta
- Unidad de influencia
- individuo / grupo / institución
- Grado de autonomía
- Baja; la distribución puede automatizarse
- Madurez de evidencia
- Uso actual documentado
C · CÓMO LA IA LO CAMBIA
Qué cambia frente a la práctica previa a la IA
La clonación de voz, la recreación facial y el video generativo reducen los recursos necesarios para suplantar personas o fabricar eventos. La detección posterior sigue siendo una carrera armamentista, por lo que la autenticación de la fuente y la verificación por un canal independiente suelen ser más fiables que la inspección visual.
D · ESTADO DE LA CAPACIDAD
Separar evidencia actual de riesgo prospectivo
Uso real confirmado
- Incidentes documentados incluyen audio político, video de rendición en guerra, fraude corporativo, difamación escolar y llamadas de supresión electoral.
Capacidad técnica demostrada
- Los humanos suelen rendir cerca del azar al juzgar medios sintéticos de alta calidad; sistemas forenses también fallan con compresión y generadores nuevos.
Desarrollo plausible a corto plazo
- La suplantación interactiva en tiempo real en llamadas y reuniones es un riesgo creciente.
Afirmaciones especulativas o sin respaldo
- Ningún detector ni estándar de trazabilidad garantiza actualmente una autenticidad universal.
E · MECANISMOS CLAVE
Mecanismos conceptuales, no procedimientos operativos
Clonación de voz y comunicaciones fabricadas.
Reemplazo facial, recreación o eventos sintéticos.
Ediciones híbridas incrustadas en material mayormente auténtico.
Afirmaciones falsas de que medios genuinos fueron generados por IA.
F · EVIDENCIA Y EJEMPLOS
Qué ocurrió, qué se sabe y qué sigue sin saberse
El alcance, la interacción y la visibilidad no se tratan como prueba de persuasión o cambio conductual.
Comparar todos los casos con matices de la taxonomía
Video de rendición de Zelensky[1, 3]
- Qué ocurrió
- Un video sintético mostró al presidente de Ucrania instruyendo a tropas a rendirse tras comprometerse un canal de noticias en marzo de 2022.
- Estado de evidencia
- El medio fue confirmado como manipulado y distribuido mediante un canal confiable comprometido.
- Efecto medido o documentado
- El gobierno ucraniano emitió una refutación auténtica rápida; no se documentó rendición masiva.
- Qué sigue sin saberse
- El método exacto de producción y la influencia a nivel de audiencia no son totalmente públicos.
Audio del director de Pikesville High School[1, 4]
- Qué ocurrió
- Un empleado escolar presuntamente creó una grabación clonada que presentó falsamente al director haciendo comentarios racistas y antisemitas.
- Estado de evidencia
- La policía y expertos forenses identificaron el audio como generado por IA; siguieron cargos penales.
- Efecto medido o documentado
- El director fue suspendido, amenazado y requirió protección antes de establecerse la fabricación.
- Qué sigue sin saberse
- La herramienta específica de consumo no fue establecida públicamente.
Fraude por videoconferencia en Hong Kong[1]
- Qué ocurrió
- Un empleado financiero transfirió cerca de 25 millones de dólares tras una reunión con aparentes colegas deepfake.
- Estado de evidencia
- La policía describió a los participantes como suplantaciones generadas por IA.
- Efecto medido o documentado
- La transferencia fraudulenta se completó antes de verificación fuera de banda.
- Qué sigue sin saberse
- No está claro si cada participante fue generado en vivo o parcialmente pregrabado.
Video de Ali Bongo y dividendo del mentiroso[1, 5]
- Qué ocurrió
- Un video auténtico del presidente de Gabón después de un derrame fue ampliamente alegado como sintético.
- Estado de evidencia
- La revisión forense no halló deepfake; el evento ilustra sospecha falsa, no generación por IA.
- Efecto medido o documentado
- La controversia de autenticidad contribuyó a una crisis política y narrativa de intento de golpe.
- Qué sigue sin saberse
- No se sabe si participantes del golpe creían la afirmación o la usaron estratégicamente.
G · RIESGOS Y MODOS DE FALLO
Riesgos de uso malicioso y razones por las que puede fallar
Riesgos principales
- Medios falsos pueden provocar pánico, fraude, represalias o daño reputacional antes de corrección.
- Falsos positivos pueden desacreditar evidencia auténtica y dañar a creadores inocentes.
- El momento de crisis puede hacer eficaz incluso material de baja calidad.
Límites y modos de fallo
- Video sintético más largo puede revelar inconsistencias temporales y físicas.
- La precisión de detección se degrada con recompresión, recorte, ruido y generadores no vistos.
H · DETECCIÓN E INDICADORES DEFENSIVOS
Las señales son indicativas, no una prueba automática
- Inconsistencias de iluminación, entorno acústico o movimiento pueden apoyar revisión, pero no son prueba.
- La comprobación de mayor valor suele ser si el supuesto emisor o institución puede autenticar la comunicación por otro canal.
I · GOBERNANZA Y SALVAGUARDAS
Controles por capas, supervisión y responsabilidad
- Establecer verificación fuera de banda acordada para instrucciones financieras y de emergencia.
- Usar respuesta de crisis centrada en la verdad que evite amplificar repetidamente el contenido falso.
- Combinar trazabilidad, revisión forense, evidencia contextual y cadena de custodia.
Salvaguardas transversales relacionadas
La guía de resiliencia compara estos controles, sus límites y su contexto de evidencia en toda la taxonomía.
Las conclusiones jurídicas dependen de jurisdicción y hechos; esta página resume el informe correspondiente y no es asesoramiento legal.
J · VACÍOS DE INVESTIGACIÓN
Preguntas que la evidencia aún no resuelve
- Eficacia de etiquetas y predesmentido entre culturas.
- Trazabilidad que preserve la privacidad y sobreviva a la distribución.
- Estándares legales para autenticar evidencia sintética o disputada.
Comparar las preguntas de esta categoría en toda la agenda de investigación
K · FUENTES
Lista trazable de fuentes
El informe encargado es la fuente organizadora. Los registros externos siguientes son las fuentes principales conservadas para la síntesis pública; la calidad varía según el tipo y se etiqueta.
Las ediciones en inglés y español se publican desde el mismo registro estructurado. La paridad bilingüe se valida en cada versión; los títulos de las fuentes pueden conservarse en su idioma original de publicación.
-
Informe de investigación encargado
AI-Enabled Deepfake Psychological Operations
Enlaces de evidencia: 14
- Definición
- Por qué importa
- Cómo la IA lo cambia
- Estado de la capacidad
- Mecanismos clave
- Riesgos principales
- Límites y modos de fallo
- Detección e indicadores defensivos
- Gobernanza y salvaguardas
- Vacíos de investigación
- Ejemplo 1: Video de rendición de Zelensky
- Ejemplo 2: Audio del director de Pikesville High School
- Ejemplo 3: Fraude por videoconferencia en Hong Kong
- Ejemplo 4: Video de Ali Bongo y dividendo del mentiroso
-
Literatura jurídica académica
Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security
Enlaces de evidencia: 6
- Registro de base de datos de incidentes AI Incident 573: Zelensky surrender deepfake
- Cobertura periodística secundaria School principal was framed using AI-generated racist rant
- Investigación revisada por pares Deepfakes and disinformation: Exploring the impact of synthetic political video
-
Investigación jurídica revisada por pares
Emerging need to regulate deepfakes in international law
Enlaces de evidencia: 3