El interior soberano
El pensamiento, la memoria, la creencia, la duda y la imaginación privadas no deben tratarse como conducta consumada ni como una puntuación permanente de riesgo.
DERECHOS / EVIDENCIA / GOBERNANZA DE IA
Libertad cognitiva: derechos, evidencia y gobernanza de la IA
Una colección de siete informes sobre privacidad mental, observación algorítmica, control de la información, conflicto cognitivo, debido proceso y los límites que deben regir sistemas capaces de inferir o influir en estados internos.
Aquí se usa libertad cognitiva como concepto organizador de la autodeterminación mental: la capacidad de pensar, dudar, recordar, revisarse y participar en la vida ordinaria sin vigilancia neural, emocional o psicológica innecesaria. La colección separa el pensamiento privado de la conducta externa y trata la responsabilidad humana, la seguridad y la libertad como objetivos compatibles, no opuestos.
MODELO CONCEPTUAL
Cuatro pilares para evaluar el poder sobre la mente
La colección no trata toda tecnología o intervención como equivalente. Estos pilares identifican las preguntas de derechos que se repiten en distintos sistemas.
Una inferencia no es una prueba
Un modelo puede estimar atención, emoción, intención o conducta futura, pero una institución no debe tratar esa estimación como conocimiento directo de la persona.
Gobernanza visible e impugnable
La clasificación, restricción, elaboración de perfiles, memoria y decisiones automatizadas de consecuencias importantes requieren aviso, razones, registros, proporcionalidad y una vía significativa de revisión humana.
La resiliencia no es obediencia
Defender a una sociedad frente a la manipulación debe fortalecer la verificación, el pluralismo, el razonamiento público y la comunicación autenticada, no vigilar creencias lícitas.
PRUEBAS DE GOBERNANZA
Cuando una restricción o inferencia afecta derechos, formule siete preguntas
Estas pruebas distinguen la seguridad y administración responsables del control opaco, desproporcionado o sin respaldo científico.
Específica
La regla, el sistema afectado, los datos, la decisión y el daño deben definirse en vez de ocultarse tras un lenguaje amplio de seguridad.
Visible
Las personas deben saber cuándo la IA clasifica, limita, resume, supervisa o cambia materialmente su perfil persistente.
Proporcionada
La intervención debe corresponder al daño externo demostrable y usar la respuesta eficaz menos restrictiva de derechos.
Basada en evidencia
La validez científica, las tasas de error, los efectos poblacionales y las limitaciones deben evaluarse antes de un uso de alto impacto.
Apelable
Una persona afectada por una acción automatizada de consecuencias importantes debe poder obtener registros, impugnar errores y llegar a un revisor humano cualificado.
Revisable de forma independiente
Los sistemas de alto impacto necesitan acceso para auditorías externas, investigadores protegidos e informes que permitan evaluar patrones de error.
Dirigida al daño demostrable
La gobernanza debe centrarse en amenazas, fraude, coerción, discriminación, acoso, explotación y violencia, no en la curiosidad privada ni en la disidencia lícita.
PANORAMA JURÍDICO Y DE POLÍTICAS
Distintas jurisdicciones protegen distintas partes del problema
El derecho vinculante, el lenguaje constitucional, la interpretación de derechos humanos y las recomendaciones normativas se etiquetan por separado. La lista es ilustrativa, no exhaustiva.
-
Informe interpretativo
A/76/380: libertad de pensamiento
El Relator Especial examinó el alcance de la libertad de pensamiento y los riesgos tecnológicos para el fuero interno. Es una interpretación influyente, no un nuevo tratado vinculante. [8]
Marco de derechos humanos de las Naciones Unidas
-
Reforma constitucional promulgada
Ley 21.383 y protección de la actividad cerebral
Chile reformó su Constitución para exigir que el desarrollo científico y tecnológico respete la integridad física y psíquica y proteja la actividad cerebral y la información derivada de ella. [9]
Chile
-
Ley promulgada
HB24-1058: datos neurales dentro de datos biológicos sensibles
La ley amplió el marco de privacidad de Colorado para incluir datos biológicos y definió los datos neurales generados mediante la medición de la actividad del sistema nervioso central o periférico. [10]
Colorado, Estados Unidos
-
Ley promulgada
SB 1223: datos neurales como información personal sensible
California incorporó los datos neurales al marco de información personal sensible de su ley de privacidad del consumidor. [11]
California, Estados Unidos
-
Prohibición aplicable con excepciones limitadas
Restricciones de la Ley de IA de la UE al reconocimiento emocional en trabajo y educación
La Ley de IA prohíbe sistemas destinados a inferir emociones en contextos laborales y educativos, con excepciones limitadas por motivos médicos o de seguridad y conforme a las definiciones del reglamento. [12]
Unión Europea
-
Recomendación normativa mundial
Recomendación de la UNESCO sobre la Ética de la Neurotecnología
La UNESCO adoptó un estándar mundial no vinculante como tratado sobre dignidad, autonomía, privacidad, identidad, inclusión, seguridad y desarrollo responsable de la neurotecnología. [13]
Estados Miembros de la UNESCO
SIETE RUTAS DE INVESTIGACIÓN
La investigación, la política, la defensa pública y la comunicación siguen siendo distintas
Cada ruta identifica el género de su informe organizador para que el lenguaje normativo no se confunda con un hallazgo empírico y la evidencia de casos no se generalice más allá de sus límites.
01
Análisis jurídico y de políticas
Soberanía mental y libertad cognitiva
Un marco fundacional de derechos que distingue la vida interior protegida de la conducta externa sujeta a responsabilidad y examina cómo la IA, la neurotecnología, las puntuaciones predictivas y la interacción sintética presionan ese límite.
- Informe fuente
- The Mind Is the First Territory of Freedom
- Enfoque probatorio
- Esta ruta presenta un marco de derechos y políticas. No afirma que la libertad cognitiva ya sea un derecho definido de manera uniforme y exigible de forma independiente en todas las jurisdicciones.
02
Análisis jurídico y de políticas
Libertad cognitiva en conflictos habilitados por IA
Un análisis de seguridad nacional y derechos humanos sobre guerra cognitiva, defensa democrática, influencia extranjera, operaciones informativas habilitadas por IA y el riesgo de que las contramedidas se conviertan en sistemas de control cognitivo interno.
- Informe fuente
- The Mind Is Not a Battlespace: Cognitive Liberty in the Age of AI-Enabled Conflict
- Enfoque probatorio
- La ruta analiza doctrina y gobernanza. No respalda la guerra cognitiva como dominio científico preciso, no supone que los enjambres autónomos de influencia sean rutinarios ni ofrece procedimientos de campaña.
03
Investigación orientada a la evidencia
Privacidad mental y supervisión algorítmica
Un análisis por sectores de medición neural directa, inferencia emocional, perfiles conductuales, vigilancia de productividad, supervisión educativa y decisiones institucionales tomadas a partir de esas señales.
- Informe fuente
- When the System Watches the Mind
- Enfoque probatorio
- La ruta distingue tipos de observación y usos beneficiosos de seguridad o accesibilidad de despliegues coercitivos o científicamente débiles. No afirma que toda señal biométrica carezca de sentido ni que toda supervisión sea ilegítima.
04
Investigación orientada a la evidencia
Supresión algorítmica y derecho a saber
Una taxonomía de libertades civiles sobre eliminación, restricción, degradación, exclusión de recomendaciones, supresión de búsquedas, etiquetado, reformulación, invisibilidad personalizada, puntuación de riesgo y cambios en memoria o identidad persistente del usuario.
- Informe fuente
- The Invisible Editor: AI Censorship, Algorithmic Suppression, and the Right to Know
- Enfoque probatorio
- La ruta no afirma que toda clasificación sea censura ni que las plataformas deban distribuir todo contenido lícito. Se centra en visibilidad, razones, registros, coherencia, errores desiguales y reparación.
05
Investigación orientada a la evidencia
Moderación automatizada, sesgo y regulación
Una síntesis sobre moderación de visibilidad, sesgo contra dialectos y términos identitarios, aplicación en zonas de conflicto, sobrecorrección de modelos generativos, decisiones automatizadas de prestaciones públicas y regulación de transparencia.
- Informe fuente
- Algorithmic Suppression and AI-Driven Censorship
- Enfoque probatorio
- La ruta conserva patrones bien respaldados y excluye explícitamente afirmaciones sin sustento sobre intención secreta, dirección política universal o prevalencia en toda una plataforma cuando la evidencia pública es insuficiente.
06
Manifiesto normativo
Un manifiesto de doce puntos sobre libertad cognitiva
Una declaración deliberadamente normativa que defiende una tercera vía favorable a la tecnología: una IA capaz que siga siendo visible, impugnable, limitada, reversible y responsable ante la dignidad humana.
- Informe fuente
- Keep the Human Mind Free
- Enfoque probatorio
- Este texto es defensa pública y orientación ética. Sus declaraciones son principios propuestos, no descripciones de derecho universal promulgado ni prueba de que cada riesgo mencionado sea generalizado.
07
Material para discurso público
Material de discurso público y comunicación cívica
Un discurso de 15 minutos, una versión condensada, descripción de evento, frases citables y marco de anotación factual que conectan libertad cognitiva con vigilancia laboral, historia obrera local, privacidad mental y políticas responsables de IA.
- Informe fuente
- Cognitive Liberty Is the Civil-Rights Struggle of the AI Age
- Enfoque probatorio
- Esta ruta es un recurso de comunicación. Las afirmaciones retóricas, metáforas, referencias legislativas y el marco histórico local deben verificarse para la fecha y audiencia del evento antes de su presentación.
MARCO NORMATIVO
Doce principios para mantener visible la agencia humana
Estos principios sintetizan los materiales de política y manifiesto presentados. Son compromisos propuestos, no una afirmación de que cada principio ya sea derecho vigente.
-
01
La vida interior es soberana
Los pensamientos, emociones, recuerdos e imaginación pertenecen primero a la persona, no a un empleador, plataforma, escuela, Estado o modelo.
-
02
El pensamiento no es conducta
Los actos externos pueden regularse; la indagación privada, la intención no manifestada, la duda y el cambio de creencias requieren un espacio interior protegido.
-
03
La privacidad mental es una cuestión de derechos humanos
Los datos neurales y las inferencias cognitivas o emocionales sensibles merecen protecciones superiores a las de la elaboración ordinaria de perfiles de consumo.
-
04
Una predicción no es un veredicto
Los pronósticos probabilísticos no deben sustituir la evidencia, la evaluación individualizada ni el debido proceso.
-
05
Una inferencia emocional no prueba una emoción
El movimiento facial, la voz, la mirada y la fisiología son señales dependientes del contexto y no deben tratarse como ventanas transparentes a la mente.
-
06
Un registro histórico no es una identidad permanente
Los sistemas deben preservar la corrección, el contexto temporal y la capacidad humana de cambiar, en vez de encerrar a una persona en datos antiguos.
-
07
La IA debe identificarse y explicar su función
Las personas deben saber cuándo interactúan con un sistema sintético y cuándo este configura materialmente una decisión o un entorno informativo.
-
08
Ningún sistema debe diseñar dependencia emocional
La optimización de la interacción no debe explotar la soledad, el duelo, la crisis o el apego para hacer que salir parezca abandono.
-
09
La negativa debe ser transparente
Un sistema puede imponer un límite, pero debe distinguir entre política, incertidumbre, falta de evidencia y limitación técnica, en vez de fingir omnisciencia neutral.
-
10
La automatización de consecuencias importantes requiere explicación y apelación
Las decisiones sobre empleo, educación, prestaciones, salud, crédito y libertad necesitan razones duraderas y revisión humana significativa.
-
11
La seguridad debe ser específica, proporcionada y basada en evidencia
La protección legítima no debe convertirse en una licencia general para perfiles ocultos, vigilancia amplia o control de puntos de vista.
-
12
La responsabilidad humana no puede delegarse a una máquina
Los desarrolladores, responsables de despliegue, instituciones y funcionarios públicos siguen siendo responsables de los objetivos, datos, salvaguardas y consecuencias.
CÓMO LEER LA COLECCIÓN
Primero la evidencia. Los derechos etiquetados. La incertidumbre preservada.
- Los siete informes presentados son fuentes organizadoras, no prueba automática de cada afirmación incluida.
- Las declaraciones normativas, propuestas jurídicas, conclusiones empíricas, ejemplos históricos y materiales retóricos se etiquetan por separado.
- Los hitos jurídicos actuales se enlazan con registros oficiales o primarios cuando es posible; la jurisdicción y las fechas de vigencia permanecen visibles.
- Las inferencias sobre emoción, intención, credibilidad y riesgo se tratan como afirmaciones probabilísticas, no como acceso directo a la mente de una persona.
- La pérdida de visibilidad, el cambio de interacción o una etiqueta de plataforma no establecen por sí solos censura ilícita, intención ideológica ni efecto conductual.
- Cuando la evidencia pública es incompleta, la síntesis declara la incertidumbre en vez de llenarla con especulación.
REGISTRO DE FUENTES CONSERVADAS
Los informes presentados y los registros externos no son el mismo tipo de evidencia
Cada fuente incluye una salvedad que describe lo que puede y no puede establecer. Los títulos originales permanecen en el idioma de publicación.
-
Fuente de investigación presentada
The Mind Is Not a Battlespace: Cognitive Liberty in the Age of AI-Enabled Conflict
Informe de política presentado; fuente organizadora de la síntesis pública, no corroboración independiente.
-
Fuente de investigación presentada
The Mind Is the First Territory of Freedom
Informe fundacional presentado; combina análisis jurídico, propuestas de política y principios normativos.
-
Fuente de investigación presentada
Keep the Human Mind Free
Manifiesto presentado; las afirmaciones normativas se etiquetan como principios, no como hallazgos empíricos.
-
Fuente de investigación presentada
The Invisible Editor: AI Censorship, Algorithmic Suppression, and the Right to Know
Informe analítico presentado; sus ejemplos de plataformas requieren atender a políticas cambiantes y datos públicos incompletos.
-
Fuente de investigación presentada
Cognitive Liberty Is the Civil-Rights Struggle of the AI Age
Discurso y material retórico presentados; el lenguaje público no constituye por sí mismo una fuente probatoria.
-
Fuente de investigación presentada
Algorithmic Suppression and AI-Driven Censorship
Informe de investigación presentado; algunos ejemplos y fuentes secundarias son controvertidos o de menor calidad, por lo que la síntesis pública conserva afirmaciones limitadas.
-
Fuente de investigación presentada
When the System Watches the Mind
Informe de investigación presentado; se separan los tipos de observación y los usos institucionales para no tratar toda supervisión como equivalente.
-
Registro oficial
A/76/380: Interim report of the Special Rapporteur on freedom of religion or belief — Freedom of thought — se abre en una pestaña nueva
Autorizada respecto del análisis del Relator Especial; no es una reforma de tratado ni una sentencia judicial.
-
Ley o reglamento
Ley 21.383 — Modifica la Carta Fundamental para establecer el desarrollo científico y tecnológico al servicio de las personas — se abre en una pestaña nueva
Texto jurídico oficial chileno.
-
Ley o reglamento
HB24-1058 — Protect Privacy of Biological Data — se abre en una pestaña nueva
Página oficial del proyecto y registro de promulgación de Colorado.
-
Ley o reglamento
SB 1223 — Consumer privacy: sensitive personal information: neural data — se abre en una pestaña nueva
Texto oficial de California de la medida promulgada; para cumplimiento, consúltense la norma codificada y asesoría jurídica.
-
Ley o reglamento
Regulation (EU) 2024/1689 — Artificial Intelligence Act — se abre en una pestaña nueva
Texto jurídico oficial de la UE; su aplicación depende de definiciones, plazos y excepciones.
-
Registro oficial
UNESCO Recommendation on the Ethics of Neurotechnology — se abre en una pestaña nueva
Recomendación normativa mundial adoptada por los Estados Miembros de la UNESCO; no es un tratado vinculante.
-
Investigación revisada por pares
Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements — se abre en una pestaña nueva
Revisión científica principal sobre movimiento facial e inferencia emocional; no implica que toda medida afectiva contextual sea inútil.
-
Investigación o doctrina académica
Beyond Neural Data: Cognitive Biometrics and Mental Privacy — se abre en una pestaña nueva
Doctrina jurídica que amplía el análisis de privacidad mental más allá de los datos cerebrales directos.
-
Investigación o doctrina académica
Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews — se abre en una pestaña nueva
Estudio controlado de entrevistas sugestivas; no establece que el uso ordinario de IA reescriba rutinariamente la memoria autobiográfica.
-
Registro oficial
NIST Artificial Intelligence Risk Management Framework 1.0 — se abre en una pestaña nueva
Marco voluntario de gestión de riesgos que enfatiza gobernanza, mapeo, medición, gestión, documentación y reparación.
-
Fuente de la sociedad civil
Santa Clara Principles on Transparency and Accountability in Content Moderation — se abre en una pestaña nueva
Principios de sociedad civil sobre cifras, aviso, apelaciones, competencia cultural y transparencia de la intervención estatal.
-
Ley o reglamento
Digital Services Act — se abre en una pestaña nueva
Resumen oficial de la UE; las obligaciones concretas dependen de la categoría del servicio y del texto legal.
-
Revisión independiente
Human Rights Due Diligence of Meta’s Impacts in Israel and Palestine in May 2021 — se abre en una pestaña nueva
Revisión independiente encargada por Meta que documenta aplicación excesiva e insuficiente, asimetrías lingüísticas y problemas de reparación.
-
Informe de derechos humanos
Meta’s Broken Promises: Systemic Censorship of Palestine Content on Instagram and Facebook — se abre en una pestaña nueva
Investigación de Human Rights Watch basada en casos presentados; establece patrones documentados, no una tasa completa de error de toda la plataforma.
-
Registro oficial
Artificial Intelligence and the ADA — se abre en una pestaña nueva
Orientación oficial de derechos civiles laborales de EE. UU.; no concluye que toda herramienta de contratación con IA discrimine.
-
Informe de derechos humanos
Automated Neglect: How the World Bank’s Push to Allocate Cash Assistance Using Algorithms Threatens Rights — se abre en una pestaña nueva
Investigación de derechos sobre el sistema jordano de focalización de pobreza; las afirmaciones deben seguir atribuidas al informe y a las respuestas.
-
Registro oficial
Swedish Psychological Defence Agency — Our mission — se abre en una pestaña nueva
Descripción oficial de la misión de la agencia y de su límite respecto del discurso interno.
-
Fuente de la sociedad civil
Cofacts: collaborative fact-checking platform — se abre en una pestaña nueva
Plataforma pública de tecnología cívica; su eficacia varía según participación, cobertura y calidad de respuesta.
-
Información periodística secundaria
Why a Study of 5 Working Women in the 1920s Changed Your Work Life — se abre en una pestaña nueva
Relato histórico accesible; los debates académicos advierten contra reducir los estudios de Hawthorne a un solo efecto de observación.
-
Información periodística secundaria
Amazon under fire for software that recommends firing workers — se abre en una pestaña nueva
Información periodística sobre automatización laboral divulgada; las prácticas y políticas concretas pueden cambiar.
-
Ley o reglamento
Illinois Public Act 103-0804 — Artificial intelligence in employment decisions — se abre en una pestaña nueva
Texto oficial de la ley pública de Illinois; las disposiciones laborales entraron en vigor el 1 de enero de 2026 y siguen sujetas a reglamentación e interpretación en su aplicación.
-
Ley o reglamento
Illinois Public Act 104-0538 — Artificial Intelligence Safety Measures Act — se abre en una pestaña nueva
Registro oficial de la ley pública de Illinois. Aprobada el 6 de julio de 2026; entra en vigor el 1 de enero de 2027.
-
Documentación técnica
ChatGPT Memory FAQ — se abre en una pestaña nueva
Documentación de producto sobre controles de memoria; el comportamiento y la disponibilidad pueden cambiar según cuenta, plan y versión.