Deshumanización/objetificación
Deshumanización y Objetificación: El uso o mal uso de un sistema tecnológico que representa o resulta en el trato de individuos como entidades no humanas, inferiores en valor o dignidad, o como simples objetos instrumentales, despojándolos de su reconocimiento como seres humanos plenos.
ENTIDAD
1 - Humano
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit829
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.3 > Fraude, estafas y manipulación dirigida
Estrategia de mitigacion
1. Implementar un marco de gobernanza de la IA centrado en la dignidad humana y los derechos fundamentales, integrando principios de autonomía, equidad y no-discriminación en todas las fases del desarrollo y despliegue tecnológico. 2. Establecer mecanismos obligatorios de supervisión y control humano (human-in-the-loop o human-on-the-loop) para decisiones de alto riesgo, asegurando la trazabilidad y auditabilidad del sistema que permitan la rendición de cuentas ética y jurídica. 3. Fomentar la transparencia y la explicabilidad (XAI) adecuadas al contexto de uso, con el objetivo de mitigar la opacidad del sistema y garantizar que los individuos puedan comprender, impugnar y ejercer control sobre las decisiones automatizadas que los afecten.