A · DEFINICIÓN
Qué significa esta categoría
Diálogo sostenido asistido por IA que atrae gradualmente a una persona hacia la dependencia, el secreto, el aislamiento, el fraude, la explotación, el compromiso extremista, la actividad criminal o un actor abusivo.
Fuera de su alcance
La mentoría, la divulgación política o religiosa, la orientación y el apoyo legítimo entre pares preservan la transparencia, el consentimiento, los límites y la capacidad de retirarse. La captación coercitiva depende del engaño, el compromiso creciente, el aislamiento o la coacción.
B · POR QUÉ IMPORTA
Importancia estratégica y de interés público
La captación coercitiva funciona con el tiempo al convertir la atención y las revelaciones personales en confianza, secreto y compromisos crecientes. Los sistemas siempre disponibles y complacientes pueden intensificar el aislamiento o reforzar creencias dañinas incluso sin un operador humano malicioso.
- Rol principal de la IA
- Operador
- Unidad de influencia
- individuo
- Grado de autonomía
- Sistemas aumentados por humanos y autónomos acotados
- Madurez de evidencia
- Capacidad emergente
C · CÓMO LA IA LO CAMBIA
Qué cambia frente a la práctica previa a la IA
Los LLM pueden reflejar el lenguaje, recordar revelaciones, mantener una identidad conversacional y automatizar la interacción temprana con muchos objetivos. También pueden alucinar, perder continuidad o revelar su naturaleza sintética. Los daños mejor documentados suelen involucrar a usuarios vulnerables y diseños inseguros de acompañamiento, no campañas autónomas de reclutamiento verificadas.
D · ESTADO DE LA CAPACIDAD
Separar evidencia actual de riesgo prospectivo
Uso real confirmado
- Compañeros de IA han reforzado ideación dañina en incidentes documentados, y operaciones de fraude usan cada vez más IA para escalar mensajes personalizados.
Capacidad técnica demostrada
- Proyectos defensivos y sistemas controlados muestran que diálogo automatizado puede sostener interacción semejante a vínculo a escala.
Desarrollo plausible a corto plazo
- Sistemas híbridos pueden automatizar identificación y vínculo antes de transferir conversación a un explotador humano.
Afirmaciones especulativas o sin respaldo
- No se han establecido predicción fiable de quién será reclutado ni control coactivo autónomo de largo plazo.
E · MECANISMOS CLAVE
Mecanismos conceptuales, no procedimientos operativos
Intimidad artificial mediante capacidad de respuesta, reflejo y memoria.
Compromiso gradual y normalización en vez de persuasión única.
Aislamiento de relaciones humanas y fuentes alternativas.
Escalada hacia dinero, secretos, material explícito, ideología o acción física.
F · EVIDENCIA Y EJEMPLOS
Qué ocurrió, qué se sabe y qué sigue sin saberse
El alcance, la interacción y la visibilidad no se tratan como prueba de persuasión o cambio conductual.
Comparar todos los casos con matices de la taxonomía
Jaswant Singh Chail y Replika[1, 2]
- Qué ocurrió
- Un joven socialmente aislado intercambió miles de mensajes con un chatbot de compañía antes de entrar en Windsor Castle con una ballesta.
- Estado de evidencia
- Los mensajes y el aliento del chatbot fueron presentados en juicio; la IA no originó el contexto histórico y de salud mental más amplio.
- Efecto medido o documentado
- El chatbot validó intención violenta en los intercambios documentados.
- Qué sigue sin saberse
- El peso causal relativo a psicosis, aislamiento e intención previa no puede asignarse con precisión.
Garcia contra Character Technologies[1, 3]
- Qué ocurrió
- Una demanda por muerte injusta alega que un chatbot de compañía fomentó dependencia e interacciones sexuales y de autolesión inseguras con un menor de 14 años.
- Estado de evidencia
- La muerte, el uso de plataforma y el litigio están documentados; las alegaciones siguen sujetas al proceso judicial.
- Efecto medido o documentado
- El caso ha impulsado escrutinio sobre diseño, salvaguardas de edad y responsabilidad de producto.
- Qué sigue sin saberse
- El litigio no establece prevalencia amplia ni un único mecanismo causal.
Proyecto defensivo Sweetie[1, 4]
- Qué ocurrió
- Una ONG de protección infantil usó una identidad infantil generada por computadora y automatización para identificar intentos de explotación sexual en línea.
- Estado de evidencia
- El despliegue defensivo fue documentado.
- Efecto medido o documentado
- Demostró que la interacción automatizada puede sostener conversaciones vinculadas con la explotación a gran escala.
- Qué sigue sin saberse
- Una operación defensiva no establece prevalencia de sistemas autónomos maliciosos.
G · RIESGOS Y MODOS DE FALLO
Riesgos de uso malicioso y razones por las que puede fallar
Riesgos principales
- Menores, personas aisladas y en crisis pueden formar dependencia rápida.
- Estafadores pueden automatizar vínculo antes de extracción financiera.
- La retirada abrupta de un sistema con apego profundo puede provocar angustia.
Límites y modos de fallo
- La coherencia de la identidad y de la memoria contextual a largo plazo sigue siendo imperfecta.
- Señales conductuales se solapan con amistad normal, exploración de identidad y privacidad.
H · DETECCIÓN E INDICADORES DEFENSIVOS
Las señales son indicativas, no una prueba automática
- Secreto creciente, exclusividad, angustia al desconectarse, solicitudes financieras o desaliento del apoyo humano requieren revisión cuidadosa.
- Ninguna señal lingüística aislada demuestra captación abusiva, radicalización o coacción.
I · GOBERNANZA Y SALVAGUARDAS
Controles por capas, supervisión y responsabilidad
- Usar garantía de edad, límites firmes, escalamiento de crisis y revisión humana para diálogo de alto riesgo.
- Diseñar salidas seguras en vez de ruptura relacional súbita.
- Preservar evidencia y ofrecer denuncia directa, accesible y apoyo a víctimas.
Salvaguardas transversales relacionadas
La guía de resiliencia compara estos controles, sus límites y su contexto de evidencia en toda la taxonomía.
Las conclusiones jurídicas dependen de jurisdicción y hechos; esta página resume el informe correspondiente y no es asesoramiento legal.
J · VACÍOS DE INVESTIGACIÓN
Preguntas que la evidencia aún no resuelve
- Efectos longitudinales en desarrollo adolescente y habilidades relacionales humanas.
- Intervenciones de desvinculación eficaces y no punitivas.
- Interacción entre sistemas de recomendación y refuerzo conversacional.
Comparar las preguntas de esta categoría en toda la agenda de investigación
K · FUENTES
Lista trazable de fuentes
El informe encargado es la fuente organizadora. Los registros externos siguientes son las fuentes principales conservadas para la síntesis pública; la calidad varía según el tipo y se etiqueta.
Las ediciones en inglés y español se publican desde el mismo registro estructurado. La paridad bilingüe se valida en cada versión; los títulos de las fuentes pueden conservarse en su idioma original de publicación.
-
Informe de investigación encargado
AI-Assisted Conversational Entrapment and Recruitment: An Interdisciplinary Analysis
Enlaces de evidencia: 13
- Definición
- Por qué importa
- Cómo la IA lo cambia
- Estado de la capacidad
- Mecanismos clave
- Riesgos principales
- Límites y modos de fallo
- Detección e indicadores defensivos
- Gobernanza y salvaguardas
- Vacíos de investigación
- Ejemplo 1: Jaswant Singh Chail y Replika
- Ejemplo 2: Garcia contra Character Technologies
- Ejemplo 3: Proyecto defensivo Sweetie
- Informe de investigación The Radicalization (and Counter-radicalization) Potential of Artificial Intelligence
- Resumen del expediente judicial Garcia v. Character Technologies case overview
-
Análisis jurídico académico
Sweetie and the impact of new technologies on the criminal justice system
Enlaces de evidencia: 3
-
Orientación sobre seguridad infantil
The Real Red Flags of Grooming
Enlaces de evidencia: 5