INVESTIGACIÓN SOBRE LIBERTAD COGNITIVA · 04
El editor invisible
Una taxonomía de libertades civiles sobre eliminación, restricción, degradación, exclusión de recomendaciones, supresión de búsquedas, etiquetado, reformulación, invisibilidad personalizada, puntuación de riesgo y cambios en memoria o identidad persistente del usuario.
DEFINICIÓN Y AFIRMACIÓN CENTRAL
Supresión algorítmica y derecho a saber
Una taxonomía de libertades civiles sobre eliminación, restricción, degradación, exclusión de recomendaciones, supresión de búsquedas, etiquetado, reformulación, invisibilidad personalizada, puntuación de riesgo y cambios en memoria o identidad persistente del usuario.
Afirmación central
El control invisible puede ser más difícil de impugnar que una eliminación visible porque la persona afectada quizá nunca sepa qué cambió, qué regla se aplicó, qué datos importaron o si un humano puede revisar la decisión.
SÍNTESIS CON EVIDENCIA CALIFICADA
Qué respalda el material conservado
Las etiquetas identifican el carácter del respaldo de cada punto. No implican que todas las fuentes citadas tengan la misma autoridad ni que un mecanismo documentado pruebe un efecto conductual amplio.
Registro documentado
El almacenamiento y la distribución son formas separadas de poder: un contenido puede seguir en línea mientras se reducen búsqueda, recomendación, alcance, ingresos o estado de la cuenta. [4] [19]
Afirmación informada o acotada
Los resúmenes automatizados y las interfaces de respuesta no solo acortan fuentes; el diseño y las instrucciones pueden cambiar qué puntos de vista, advertencias o posiciones minoritarias permanecen visibles. [4]
Registro documentado
Revisiones de plataformas han documentado sanciones erróneas, asimetrías lingüísticas y casos en que los usuarios recibieron aviso por cambios de encontrabilidad, pero no por reducción de distribución. [20] [21]
Propuesta normativa
Los marcos de moderación respetuosos de derechos convergen en reglas claras, aviso, códigos de motivo, conservación de originales, apelación significativa, informes agregados de errores y revisión humana cualificada para sanciones graves. [18] [19] [17]
SALVEDADES PROBATORIAS
Lo que esta ruta no debe usarse para afirmar
- Una caída de alcance puede deberse al comportamiento de la audiencia, competencia, cambios de producto, aplicación de políticas o error; no prueba de forma concluyente supresión intencional de un punto de vista.
- Las políticas, interfaces y sistemas de apelación de las plataformas cambian con frecuencia; los ejemplos son instantáneas limitadas en el tiempo.
SALVAGUARDAS QUE PRESERVAN DERECHOS
Límites prácticos identificados por la síntesis
- Distinguir eliminación, restricción de acceso, degradación de recomendaciones, etiquetado, monetización, puntuación de riesgo, resumen y cambios de memoria en cada aviso.
- Proporcionar identificadores duraderos de caso, cláusulas de política, entradas materiales, descripción del impacto y vías de apelación.
- Conservar el contenido, resumen o estado de perfil original para permitir corrección y revisión independiente.
- Informar resultados de errores y apelaciones por idioma, región y población relevante sin exponer datos privados de usuarios.
PREGUNTAS ABIERTAS
Preguntas que la evidencia actual no resuelve
Una pregunta abierta no es una predicción, un hallazgo ni una afirmación de que una capacidad ya esté extendida.
- ¿Qué aviso mínimo debe aplicarse a decisiones ordinarias de clasificación y recomendación, no solo a eliminaciones?
- ¿Cómo pueden los investigadores auditar la invisibilidad personalizada sin recopilar un segundo perfil invasivo de los usuarios?
FUENTES CONSERVADAS
Registros seleccionados que sustentan esta síntesis pública
Los informes presentados, el derecho oficial, la investigación revisada por pares, las revisiones independientes, los principios de la sociedad civil y la información secundaria se etiquetan por separado. La inclusión no implica respaldo general.
-
Fuente de investigación presentada
The Invisible Editor: AI Censorship, Algorithmic Suppression, and the Right to Know
Informe analítico presentado; sus ejemplos de plataformas requieren atender a políticas cambiantes y datos públicos incompletos.
-
Revisión independiente
Human Rights Due Diligence of Meta’s Impacts in Israel and Palestine in May 2021 — se abre en una pestaña nueva
Revisión independiente encargada por Meta que documenta aplicación excesiva e insuficiente, asimetrías lingüísticas y problemas de reparación.
-
Informe de derechos humanos
Meta’s Broken Promises: Systemic Censorship of Palestine Content on Instagram and Facebook — se abre en una pestaña nueva
Investigación de Human Rights Watch basada en casos presentados; establece patrones documentados, no una tasa completa de error de toda la plataforma.
-
Fuente de la sociedad civil
Santa Clara Principles on Transparency and Accountability in Content Moderation — se abre en una pestaña nueva
Principios de sociedad civil sobre cifras, aviso, apelaciones, competencia cultural y transparencia de la intervención estatal.
-
Ley o reglamento
Digital Services Act — se abre en una pestaña nueva
Resumen oficial de la UE; las obligaciones concretas dependen de la categoría del servicio y del texto legal.
-
Registro oficial
NIST Artificial Intelligence Risk Management Framework 1.0 — se abre en una pestaña nueva
Marco voluntario de gestión de riesgos que enfatiza gobernanza, mapeo, medición, gestión, documentación y reparación.
-
Documentación técnica
ChatGPT Memory FAQ — se abre en una pestaña nueva
Documentación de producto sobre controles de memoria; el comportamiento y la disponibilidad pueden cambiar según cuenta, plan y versión.