A · DEFINICIÓN
Qué significa esta categoría
Uso de análisis de datos, aprendizaje automático, simulación o pronóstico para predecir conducta colectiva y orientar intervenciones destinadas a prevenir, redirigir, contener o explotar resultados sociales.
Fuera de su alcance
El pronóstico agregado para ayuda y planificación de emergencias difiere fundamentalmente de la puntuación individual de riesgo o la intervención coercitiva. La unidad de análisis y las consecuencias de la intervención son centrales.
Base de evidencia[1]
B · POR QUÉ IMPORTA
Importancia estratégica y de interés público
Las autoridades pueden actuar según pronósticos antes de que ocurra un evento. Esto puede prevenir daños, pero también crear predicciones autocumplidas, hacer que una prevención exitosa parezca un error del modelo y exponer a poblaciones a restricciones o vigilancia preventivas.
- Rol principal de la IA
- Entorno
- Unidad de influencia
- población / grupo / individuo
- Grado de autonomía
- Apoyo a decisiones hasta señalamiento automatizado
- Madurez de evidencia
- Uso actual documentado
C · CÓMO LA IA LO CAMBIA
Qué cambia frente a la práctica previa a la IA
La IA integra datos de movilidad, economía, redes, administración, sensores y eventos a escalas antes no disponibles. La precisión suele ser mayor para tendencias macro persistentes que para actos individuales raros y súbitos, y vacíos de datos o aplicación sesgada pueden dominar resultados.
D · ESTADO DE LA CAPACIDAD
Separar evidencia actual de riesgo prospectivo
Uso real confirmado
- Se han desplegado alerta temprana de conflictos, pronóstico migratorio, policía predictiva, sistemas acústicos de disparos y monitoreo autoritario de poblaciones.
Capacidad técnica demostrada
- Algunos modelos agregados pronostican continuación de conflicto o desplazamiento mejor que el azar, mientras los inicios súbitos siguen siendo difíciles.
Desarrollo plausible a corto plazo
- Escenarios generados por LLM y datos sensoriales más ricos pueden ampliar apoyo a decisiones, pero no eliminan reflexividad ni incertidumbre.
Afirmaciones especulativas o sin respaldo
- No se ha establecido predicción fiable de disenso, delito o acción política futura específica a nivel individual.
E · MECANISMOS CLAVE
Mecanismos conceptuales, no procedimientos operativos
Agregación de datos sociales, de movilidad, económicos, biométricos y administrativos.
Pronósticos probabilísticos, puntuaciones de riesgo y simulaciones de escenarios.
Intervenciones que alteran el entorno generador de datos.
Ciclos de retroalimentación entre vigilancia, aplicación y futuros datos de entrenamiento.
F · EVIDENCIA Y EJEMPLOS
Qué ocurrió, qué se sabe y qué sigue sin saberse
El alcance, la interacción y la visibilidad no se tratan como prueba de persuasión o cambio conductual.
Comparar todos los casos con matices de la taxonomía
Pronóstico de conflictos ViEWS[1, 2]
- Qué ocurrió
- Un sistema académico abierto pronostica varias formas de violencia política a nivel país-mes y celda geográfica.
- Estado de evidencia
- Los modelos, datos y evaluaciones fuera de muestra están documentados públicamente.
- Efecto medido o documentado
- El rendimiento es mayor para continuación y escalada de conflicto existente.
- Qué sigue sin saberse
- El inicio súbito de conflicto y el efecto causal de decisiones basadas en pronósticos siguen siendo difíciles.
Proyecto Jetson[1, 3]
- Qué ocurrió
- ACNUR exploró aprendizaje automático para pronosticar desplazamiento en Somalia con datos de conflicto, clima, mercado y movimiento.
- Estado de evidencia
- El proyecto humanitario y sus limitaciones de datos están documentados.
- Efecto medido o documentado
- El objetivo era asignación temprana de recursos, no aplicación individual.
- Qué sigue sin saberse
- La precisión operativa es vulnerable a datos faltantes y distorsionados en zonas de conflicto.
Lista Estratégica de Sujetos de Chicago[1, 4]
- Qué ocurrió
- La policía puntuó a individuos por riesgo de violencia armada y usó puntuaciones para priorizar intervención.
- Estado de evidencia
- El despliegue y las auditorías oficiales están documentados.
- Efecto medido o documentado
- Auditorías no hallaron beneficio demostrado de reducción de violencia y sí mayor escrutinio de personas listadas.
- Qué sigue sin saberse
- Los resultados individuales contrafactuales no pueden reconstruirse por completo.
Plataforma Integrada de Operaciones Conjuntas de Xinjiang[1, 5]
- Qué ocurrió
- Un sistema masivo de datos marcó conducta lícita de uigures y otros musulmanes túrquicos para atención policial y detención.
- Estado de evidencia
- Human Rights Watch realizó ingeniería inversa de la aplicación y documentó su papel en represión.
- Efecto medido o documentado
- El sistema apoyó vigilancia a gran escala y coacción preventiva.
- Qué sigue sin saberse
- La lógica precisa del modelo y todas las decisiones posteriores siguen opacas.
G · RIESGOS Y MODOS DE FALLO
Riesgos de uso malicioso y razones por las que puede fallar
Riesgos principales
- Datos históricos sesgados pueden reproducir aplicación discriminatoria.
- Actuar sobre una predicción cambia el resultado y complica evaluación.
- La puntuación individual puede invertir la presunción de inocencia.
Límites y modos de fallo
- Eventos raros producen problemas graves de falsos positivos.
- Censura, conectividad desigual, engaño y datos faltantes crean puntos ciegos.
H · DETECCIÓN E INDICADORES DEFENSIVOS
Las señales son indicativas, no una prueba automática
- Puntuaciones únicas de alto riesgo sin intervalos de incertidumbre son una señal de gobernanza.
- Datos de aplicación usados como sustituto de conducta subyacente pueden crear validación circular.
I · GOBERNANZA Y SALVAGUARDAS
Controles por capas, supervisión y responsabilidad
- Mantener pronóstico legítimo agregado, con privacidad y ligado a recursos de apoyo.
- Exigir validación fuera de muestra, auditorías independientes, apelación y documentación pública.
- Prohibir coacción individual basada solo en clasificación probabilística.
Salvaguardas transversales relacionadas
La guía de resiliencia compara estos controles, sus límites y su contexto de evidencia en toda la taxonomía.
Las conclusiones jurídicas dependen de jurisdicción y hechos; esta página resume el informe correspondiente y no es asesoramiento legal.
J · VACÍOS DE INVESTIGACIÓN
Preguntas que la evidencia aún no resuelve
- Efectos causales a largo plazo de intervenciones predictivas en confianza y participación.
- Evaluación matemática bajo retroalimentación autocumplida y autoderrotada.
- Remedios legales para daño probabilístico agregado.
Comparar las preguntas de esta categoría en toda la agenda de investigación
K · FUENTES
Lista trazable de fuentes
El informe encargado es la fuente organizadora. Los registros externos siguientes son las fuentes principales conservadas para la síntesis pública; la calidad varía según el tipo y se etiqueta.
Las ediciones en inglés y español se publican desde el mismo registro estructurado. La paridad bilingüe se valida en cada versión; los títulos de las fuentes pueden conservarse en su idioma original de publicación.
-
Informe de investigación encargado
AI-Based Predictive Population Management: Efficacy, Ethics, and Systemic Risk
Enlaces de evidencia: 14
- Definición
- Por qué importa
- Cómo la IA lo cambia
- Estado de la capacidad
- Mecanismos clave
- Riesgos principales
- Límites y modos de fallo
- Detección e indicadores defensivos
- Gobernanza y salvaguardas
- Vacíos de investigación
- Ejemplo 1: Pronóstico de conflictos ViEWS
- Ejemplo 2: Proyecto Jetson
- Ejemplo 3: Lista Estratégica de Sujetos de Chicago
- Ejemplo 4: Plataforma Integrada de Operaciones Conjuntas de Xinjiang
- Investigación revisada por pares ViEWS: A political violence early-warning system
- Descripción oficial del proyecto Is it possible to predict forced displacement?
- Auditoría oficial Advisory Concerning CPD’s Predictive Risk Models
- Investigación de derechos humanos China’s Algorithms of Repression
-
Investigación revisada por pares
Differential privacy for mobility data
Enlaces de evidencia: 2