Coercion/manipulation
Coerción y Manipulación: Describe el empleo deliberado de un sistema tecnológico para modificar de manera encubierta las creencias y la conducta de los usuarios. Esta alteración se implementa a través de mecanismos sutiles como las estrategias de persuasión ('nudging'), los patrones oscuros ('dark patterns') u otras técnicas algorítmicas opacas, lo que conlleva la potencial erosión de la privacidad, la generación de adicciones, y la inducción de estados de ansiedad o malestar psicológico.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit828
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. **Implementación de Principios de Diseño Ético y por Defecto** Exigir que los sistemas tecnológicos se diseñen bajo el principio de autonomía del usuario por defecto, prohibiendo el uso de "patrones oscuros" (*dark patterns*) y el *nudging* engañoso. La configuración predeterminada de cualquier interfaz o sistema debe ser aquella que maximice la privacidad, la seguridad y la capacidad de decisión libre del individuo, en estricto cumplimiento de los principios de No Maleficencia y Beneficio Humano. 2. **Establecimiento de Mecanismos de Transparencia y Explicabilidad Algorítmica Auditables** Imponer la obligación de transparencia para cualquier sistema que emplee técnicas de persuasión o influencia. Los usuarios deben ser notificados de forma clara y accesible sobre cuándo están siendo objeto de una estrategia algorítmica de influencia (explicabilidad), permitiendo una opción sencilla de *opt-out* sin penalizaciones. Estos mecanismos deben ser auditables por autoridades reguladoras independientes. 3. **Marco Regulatorio con Sanciones Efectivas para Prácticas Coercitivas** Desarrollar y aplicar un régimen de gobernanza digital con capacidad de imponer sanciones proporcionales y disuasorias a las entidades que incurran en el uso deliberado de tecnologías para la coerción, la manipulación o el abuso psicológico, alineando la legislación con el riesgo de erosión de la dignidad y la libertad individual.