Operaciones de influencia personalizada impulsadas por IA

A · DEFINICIÓN

Qué significa esta categoría

Intentos organizados de alterar percepciones o conducta de una persona adaptando mensajes a información recopilada o inferida sobre ella.

Fuera de su alcance

La personalización ordinaria y las recomendaciones transparentes no son inherentemente manipuladoras. El riesgo aumenta con perfilado encubierto, datos sensibles, explotación de vulnerabilidades y optimización adaptativa contra los intereses del usuario.

Base de evidencia^[1]

B · POR QUÉ IMPORTA

Importancia estratégica y de interés público

Los sistemas personalizados pueden observar continuamente al usuario mientras revelan poco sobre su objetivo, datos o proceso de prueba. Este desequilibrio puede socavar la elección informada incluso cuando la ventaja persuasiva incremental es pequeña.

Rol principal de la IA: Herramienta
Unidad de influencia: individuo
Grado de autonomía: Baja a moderada
Madurez de evidencia: Evidencia mixta o dependiente del contexto

Base de evidencia^{[1, 2, 5]}

C · CÓMO LA IA LO CAMBIA

Qué cambia frente a la práctica previa a la IA

Los modelos generativos eliminan el costo de escribir muchas variantes individuales, mientras algoritmos adaptativos aprenden de clics, respuestas y tiempo de atención. Sin embargo, revisiones rigurosas cuestionan si los rasgos inferidos son suficientemente precisos para superar de forma fiable mensajes genéricos sólidos.

Base de evidencia^{[1, 2, 3]}

D · ESTADO DE LA CAPACIDAD

Separar evidencia actual de riesgo prospectivo

Uso real confirmado

Ecosistemas comerciales y políticos personalizan rutinariamente contenido con datos demográficos, conductuales y de ubicación. Actores criminales también personalizan fraude con información extraída o robada.

Capacidad técnica demostrada

Los LLM pueden generar mensajes adaptados a escala; la evidencia de que el perfilado psicográfico añade valor persuasivo consistente es mixta.

Desarrollo plausible a corto plazo

La adaptación prolongada de múltiples turnos puede ser más relevante que los anuncios aislados, pero la evidencia longitudinal es limitada.

Afirmaciones especulativas o sin respaldo

Las afirmaciones de lectura emocional precisa o control conductual determinista carecen de respaldo.

Base de evidencia^{[1, 2, 3, 4]}

E · MECANISMOS CLAVE

Mecanismos conceptuales, no procedimientos operativos

01

Agregación de datos demográficos, ubicación, navegación, compras, redes y conversación.

02

Inferencia probabilística de intereses, intención o angustia temporal.

03

Adaptación generativa de tono, encuadre y ejemplos.

04

Prueba continua que optimiza un resultado medible en vez de la autonomía del usuario.

Base de evidencia^{[1, 2]}

F · EVIDENCIA Y EJEMPLOS

Qué ocurrió, qué se sabe y qué sigue sin saberse

El alcance, la interacción y la visibilidad no se tratan como prueba de persuasión o cambio conductual.

Comparar todos los casos con matices de la taxonomía

Afirmaciones de Cambridge Analytica e investigación de la ICO^[1]

Qué ocurrió: La empresa afirmó realizar perfilado político psicográfico muy eficaz con datos de Facebook obtenidos indebidamente.
Estado de evidencia: Las violaciones de protección de datos fueron documentadas; las afirmaciones extraordinarias de persuasión no fueron sustentadas por la investigación regulatoria.
Efecto medido o documentado: El escándalo produjo importantes daños a la privacidad y la confianza democrática.
Qué sigue sin saberse: Ninguna evidencia fiable aísla un efecto decisivo en resultados electorales.

Experimento de microsegmentación política con LLM^{[1, 3]}

Qué ocurrió: Investigadores compararon mensajes políticos generados por IA genéricos y adaptados demográficamente.
Estado de evidencia: La capacidad controlada fue demostrada.
Efecto medido o documentado: Los mensajes de IA fueron persuasivos en general, pero la personalización no produjo una ventaja estadísticamente fiable.
Qué sigue sin saberse: Las relaciones de múltiples turnos y los perfiles de mayor calidad podrían comportarse de otra manera.

G · RIESGOS Y MODOS DE FALLO

Riesgos de uso malicioso y razones por las que puede fallar

Riesgos principales

Datos sensibles pueden exponer vulnerabilidades de salud, finanzas, religión o ubicación.
Inferencias débiles pueden estereotipar y discriminar.
La optimización puede converger en encuadres manipuladores sin intención maliciosa explícita.

Base de evidencia^{[1, 4, 5]}

Límites y modos de fallo

Las huellas digitales predicen solo una parte limitada de la variación estable de personalidad en análisis estrictos.
El reconocimiento emocional a partir de señales aisladas de rostro o voz carece de fundamento científico fiable.

Base de evidencia^{[1, 2, 3, 4]}

H · DETECCIÓN E INDICADORES DEFENSIVOS

Las señales son indicativas, no una prueba automática

Advertencia de falsos positivos: Ninguna puntuación de detector, estilo de escritura, artefacto de imagen, patrón de publicación o similitud política debe usarse por sí solo para acusar a una persona u organización.

Referencias inusualmente específicas a eventos privados pueden indicar agregación entre contextos, aunque también pueden reflejar historial ordinario.
Las interfaces deberían revelar por qué se seleccionó contenido y qué datos influyeron.

Base de evidencia^{[1, 5]}

I · GOBERNANZA Y SALVAGUARDAS

Controles por capas, supervisión y responsabilidad

Hacer de la publicidad contextual, no basada en vigilancia, la opción predeterminada.
Prohibir o restringir fuertemente el perfilado sensible y la inferencia emocional.
Ofrecer exclusión significativa, eliminación de datos y explicaciones.

Base de evidencia^{[1, 4, 5]}

Salvaguardas transversales relacionadas

La guía de resiliencia compara estos controles, sus límites y su contexto de evidencia en toda la taxonomía.

Minimización de datos y límites al perfilado sensible

Las conclusiones jurídicas dependen de jurisdicción y hechos; esta página resume el informe correspondiente y no es asesoramiento legal.

J · VACÍOS DE INVESTIGACIÓN

Preguntas que la evidencia aún no resuelve

Efectos longitudinales de la persuasión adaptativa de múltiples turnos.
Medición fiable de vulnerabilidad situacional sin crear daños de vigilancia.
Replicación independiente usando sistemas reales de distribución de plataformas.