A · DEFINICIÓN
Qué significa esta categoría
Configuración intencional o estructural de lo que las personas notan, encuentran, consideran importante, creen popular o tratan como creíble mediante clasificación, recomendación, búsqueda, tendencias, moderación y notificaciones.
Fuera de su alcance
Todos los sistemas informativos seleccionan y clasifican; la selección se convierte en control perceptivo cuando la visibilidad se distorsiona, se optimiza de manera encubierta o se manipula de forma adversarial hasta reconfigurar materialmente la realidad percibida.
B · POR QUÉ IMPORTA
Importancia estratégica y de interés público
La clasificación determina qué información compite por la atención y qué señales parecen creíbles. Actores externos pueden manipular estos sistemas, mientras que la optimización interna de la interacción puede producir amplificación o supresión de visibilidad no intencionadas.
- Rol principal de la IA
- Entorno
- Unidad de influencia
- grupo / población
- Grado de autonomía
- Optimización sistémica, no autonomía de agente
- Madurez de evidencia
- Uso actual documentado
C · CÓMO LA IA LO CAMBIA
Qué cambia frente a la práctica previa a la IA
El aprendizaje automático personaliza selección a gran velocidad y aprende de retroalimentación continua. La IA generativa también inunda sistemas con interacción y contenido sintéticos adaptados a métricas premiadas por plataformas, debilitando la prueba social como señal de interés auténtico.
D · ESTADO DE LA CAPACIDAD
Separar evidencia actual de riesgo prospectivo
Uso real confirmado
- Sistemas de clasificación, búsqueda, recomendación, tendencias y moderación moldean exposición en plataformas grandes, y actores coordinados los han explotado.
Capacidad técnica demostrada
- Estudios controlados muestran que el orden de búsqueda puede cambiar preferencias y que cambios de feed alteran exposición.
Desarrollo plausible a corto plazo
- La interacción sintética puede degradar cada vez más métricas de popularidad y desafiar métodos de investigación de plataformas.
Afirmaciones especulativas o sin respaldo
- La evidencia no respalda un modelo uniforme de control mental algorítmico ni que todos los usuarios sean radicalizados pasivamente por recomendaciones.
E · MECANISMOS CLAVE
Mecanismos conceptuales, no procedimientos operativos
El orden de clasificación y la exposición repetida moldean relevancia.
Me gusta, compartidos y tendencias visibles actúan como prueba social.
La optimización de interacción privilegia material emocionalmente intenso.
La moderación automatizada y las denuncias coordinadas pueden reducir la visibilidad sin retirar contenido.
F · EVIDENCIA Y EJEMPLOS
Qué ocurrió, qué se sabe y qué sigue sin saberse
El alcance, la interacción y la visibilidad no se tratan como prueba de persuasión o cambio conductual.
Comparar todos los casos con matices de la taxonomía
Estudios del efecto de manipulación de motores de búsqueda[1, 3]
- Qué ocurrió
- Experimentos aleatorizados cambiaron el orden de resultados políticos mostrados a votantes indecisos.
- Estado de evidencia
- La intervención de clasificación y cambios de preferencia a corto plazo fueron demostrados en entornos controlados.
- Efecto medido o documentado
- Clasificaciones sesgadas produjeron cambios importantes de preferencia en algunos grupos.
- Qué sigue sin saberse
- Los efectos bajo competencia real, exposición repetida y usuarios informados dependen del contexto.
Experimentos de feed de Meta en las elecciones de 2020[1, 4]
- Qué ocurrió
- Grandes estudios alteraron orden cronológico y exposición a fuentes afines.
- Estado de evidencia
- Los cambios de exposición fueron documentados experimentalmente.
- Efecto medido o documentado
- Reducir contenido afín no redujo de manera medible la polarización durante el periodo de estudio.
- Qué sigue sin saberse
- Los efectos a largo plazo y entre plataformas siguen sin resolverse.
G · RIESGOS Y MODOS DE FALLO
Riesgos de uso malicioso y razones por las que puede fallar
Riesgos principales
- La popularidad sintética puede crear percepciones falsas de consenso.
- Penalizaciones opacas de visibilidad pueden desalentar expresión legítima.
- Incentivos de plataforma pueden amplificar indignación sin objetivo político explícito.
Límites y modos de fallo
- La elección del usuario, creencias previas y redes sociales median fuertemente los efectos.
- La exposición no equivale a creencia o acción.
H · DETECCIÓN E INDICADORES DEFENSIVOS
Las señales son indicativas, no una prueba automática
- Velocidad súbita de interacción, contenido de tendencia eliminado y reportes coordinados pueden indicar manipulación, pero requieren análisis contextual.
- Los investigadores deben medir lo que se mostró, no solo aquello en lo que los usuarios hicieron clic.
I · GOBERNANZA Y SALVAGUARDAS
Controles por capas, supervisión y responsabilidad
- Ofrecer controles significativos del feed y explicaciones comprensibles de recomendaciones.
- Proporcionar a investigadores acreditados datos de exposición que preserven privacidad.
- Usar fricción, límites de frecuencia y mecanismos de apelación en vez de una supresión general opaca.
Salvaguardas transversales relacionadas
La guía de resiliencia compara estos controles, sus límites y su contexto de evidencia en toda la taxonomía.
Las conclusiones jurídicas dependen de jurisdicción y hechos; esta página resume el informe correspondiente y no es asesoramiento legal.
J · VACÍOS DE INVESTIGACIÓN
Preguntas que la evidencia aún no resuelve
- Efectos longitudinales en múltiples plataformas.
- Auditoría independiente con datos adecuados de exposición.
- Separar demanda del usuario de oferta algorítmica.
Comparar las preguntas de esta categoría en toda la agenda de investigación
K · FUENTES
Lista trazable de fuentes
El informe encargado es la fuente organizadora. Los registros externos siguientes son las fuentes principales conservadas para la síntesis pública; la calidad varía según el tipo y se etiqueta.
Las ediciones en inglés y español se publican desde el mismo registro estructurado. La paridad bilingüe se valida en cada versión; los títulos de las fuentes pueden conservarse en su idioma original de publicación.
-
Informe de investigación encargado
Algorithmic Perception Control: A Comprehensive Analysis of Systemic Vulnerabilities, Amplification Dynamics, and Governance Constraints
Enlaces de evidencia: 12
- Definición
- Por qué importa
- Cómo la IA lo cambia
- Estado de la capacidad
- Mecanismos clave
- Riesgos principales
- Límites y modos de fallo
- Detección e indicadores defensivos
- Gobernanza y salvaguardas
- Vacíos de investigación
- Ejemplo 1: Estudios del efecto de manipulación de motores de búsqueda
- Ejemplo 2: Experimentos de feed de Meta en las elecciones de 2020
-
Análisis académico de políticas públicas
Understanding Social Media Recommendation Algorithms
Enlaces de evidencia: 5
- Investigación revisada por pares The search engine manipulation effect and its possible impact on elections
- Investigación revisada por pares Like-minded sources on Facebook are prevalent but not polarizing