INVESTIGACIÓN SOBRE LIBERTAD COGNITIVA · 05
Supresión algorítmica y censura impulsada por IA
Una síntesis sobre moderación de visibilidad, sesgo contra dialectos y términos identitarios, aplicación en zonas de conflicto, sobrecorrección de modelos generativos, decisiones automatizadas de prestaciones públicas y regulación de transparencia.
DEFINICIÓN Y AFIRMACIÓN CENTRAL
Moderación automatizada, sesgo y regulación
Una síntesis sobre moderación de visibilidad, sesgo contra dialectos y términos identitarios, aplicación en zonas de conflicto, sobrecorrección de modelos generativos, decisiones automatizadas de prestaciones públicas y regulación de transparencia.
Afirmación central
La moderación automatizada es un sistema sociotécnico de gobernanza: los errores surgen de datos, políticas, diseño del clasificador, cobertura lingüística, incentivos institucionales, presión estatal y reparación débil, no solo del modelo.
SÍNTESIS CON EVIDENCIA CALIFICADA
Qué respalda el material conservado
Las etiquetas identifican el carácter del respaldo de cada punto. No implican que todas las fuentes citadas tengan la misma autoridad ni que un mecanismo documentado pruebe un efecto conductual amplio.
Registro documentado
Los clasificadores de toxicidad y abuso pueden penalizar en exceso dialectos y términos identitarios cuando los datos de entrenamiento confunden hablar de un grupo con atacar a ese grupo. [6] [18]
Registro documentado
La revisión encargada por Meta sobre la escalada Israel–Palestina de 2021 documentó aplicación excesiva en árabe y aplicación insuficiente en hebreo, mostrando que herramientas desiguales pueden dañar a comunidades distintas de maneras distintas. [20]
Afirmación informada o acotada
El ajuste agresivo de alineación o seguridad puede producir negativas excesivas y resultados distorsionados; un fallo de seguridad puede implicar tanto permitir daño como negar injustificadamente. [6] [17]
Registro documentado
Los daños de la gobernanza algorítmica van más allá del discurso: sistemas de prestaciones públicas y empleo pueden convertir variables indirectas opacas en exclusión, discriminación o reparación tardía. [23] [22] [28]
Registro documentado
La DSA y leyes emergentes sobre empleo o modelos de frontera avanzan hacia aviso, transparencia, evaluación de riesgos, auditoría y responsabilidad, pero la cobertura y la ejecución siguen dependiendo de cada jurisdicción. [19] [28] [29]
SALVEDADES PROBATORIAS
Lo que esta ruta no debe usarse para afirmar
- Algunos ejemplos del informe presentado se basan en alegaciones, informes de defensa o eventos de plataformas que cambian rápidamente; la síntesis pública no los trata como hechos establecidos para todo el sistema.
- Las métricas de equidad pueden entrar en conflicto, y resultados agregados iguales no establecen automáticamente trato justo ni clasificación precisa.
SALVAGUARDAS QUE PRESERVAN DERECHOS
Límites prácticos identificados por la síntesis
- Medir tasas de falsos positivos y falsos negativos entre idiomas, dialectos, regiones, discapacidad y contextos identitarios relevantes.
- Usar revisión contextual y humana para casos ambiguos o de alto impacto, en vez de sustitución rígida por palabras clave.
- Separar clasificadores de seguridad de sanciones posteriores hasta establecer validez, proporcionalidad y apelación.
- Proporcionar acceso a investigadores y datos de transparencia suficientes para evaluar visibilidad, no solo eliminaciones.
PREGUNTAS ABIERTAS
Preguntas que la evidencia actual no resuelve
Una pregunta abierta no es una predicción, un hallazgo ni una afirmación de que una capacidad ya esté extendida.
- ¿Qué datos de transparencia son necesarios para auditar la degradación de recomendaciones sin facilitar abusos ni exponer usuarios?
- ¿Cómo deben evaluar los reguladores las negativas excesivas, los umbrales de seguridad personalizados y las negativas inexplicadas de modelos generativos?
FUENTES CONSERVADAS
Registros seleccionados que sustentan esta síntesis pública
Los informes presentados, el derecho oficial, la investigación revisada por pares, las revisiones independientes, los principios de la sociedad civil y la información secundaria se etiquetan por separado. La inclusión no implica respaldo general.
-
Fuente de investigación presentada
Algorithmic Suppression and AI-Driven Censorship
Informe de investigación presentado; algunos ejemplos y fuentes secundarias son controvertidos o de menor calidad, por lo que la síntesis pública conserva afirmaciones limitadas.
-
Revisión independiente
Human Rights Due Diligence of Meta’s Impacts in Israel and Palestine in May 2021 — se abre en una pestaña nueva
Revisión independiente encargada por Meta que documenta aplicación excesiva e insuficiente, asimetrías lingüísticas y problemas de reparación.
-
Informe de derechos humanos
Meta’s Broken Promises: Systemic Censorship of Palestine Content on Instagram and Facebook — se abre en una pestaña nueva
Investigación de Human Rights Watch basada en casos presentados; establece patrones documentados, no una tasa completa de error de toda la plataforma.
-
Ley o reglamento
Digital Services Act — se abre en una pestaña nueva
Resumen oficial de la UE; las obligaciones concretas dependen de la categoría del servicio y del texto legal.
-
Fuente de la sociedad civil
Santa Clara Principles on Transparency and Accountability in Content Moderation — se abre en una pestaña nueva
Principios de sociedad civil sobre cifras, aviso, apelaciones, competencia cultural y transparencia de la intervención estatal.
-
Registro oficial
Artificial Intelligence and the ADA — se abre en una pestaña nueva
Orientación oficial de derechos civiles laborales de EE. UU.; no concluye que toda herramienta de contratación con IA discrimine.
-
Informe de derechos humanos
Automated Neglect: How the World Bank’s Push to Allocate Cash Assistance Using Algorithms Threatens Rights — se abre en una pestaña nueva
Investigación de derechos sobre el sistema jordano de focalización de pobreza; las afirmaciones deben seguir atribuidas al informe y a las respuestas.
-
Ley o reglamento
Illinois Public Act 103-0804 — Artificial intelligence in employment decisions — se abre en una pestaña nueva
Texto oficial de la ley pública de Illinois; las disposiciones laborales entraron en vigor el 1 de enero de 2026 y siguen sujetas a reglamentación e interpretación en su aplicación.
-
Ley o reglamento
Illinois Public Act 104-0538 — Artificial Intelligence Safety Measures Act — se abre en una pestaña nueva
Registro oficial de la ley pública de Illinois. Aprobada el 6 de julio de 2026; entra en vigor el 1 de enero de 2027.
-
Registro oficial
NIST Artificial Intelligence Risk Management Framework 1.0 — se abre en una pestaña nueva
Marco voluntario de gestión de riesgos que enfatiza gobernanza, mapeo, medición, gestión, documentación y reparación.