Daños Representacionales
Este concepto se refiere a un **prejuicio estructural** o **sesgo social sistémico**. Describe las **creencias profundamente arraigadas** —a menudo inconscientes y basadas en estereotipos— que una sociedad sostiene sobre sus diversos grupos. El propósito o efecto de estas creencias es la **perpetuación de un orden social desigual**, donde las desventajas o el poder se distribuyen de forma injusta según la pertenencia a un grupo (raza, género, clase, etc.). En esencia, son los marcos cognitivos que justifican y mantienen las jerarquías de poder existentes, transformándolas en una verdad socialmente percibida.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit133
Linea de dominio
1. Discriminación y Toxicidad
1.1 > Discriminación injusta y tergiversación
Estrategia de mitigacion
1. Mitigación en la Fuente (Datos y Modelo): Implementar auditorías y procesos rigurosos de curación de datos para garantizar que los conjuntos de entrenamiento no repliquen sesgos históricos ni estereotipos sociales. Es fundamental buscar la diversidad y la representatividad en los datos, enfocándose tanto en la ausencia de grupos como en la calidad (el "cómo") de su representación, para evitar la perpetuación de jerarquías sociales desiguales (Sesgo de Representación). 2. Auditoría y Control Continuo Post-Despliegue: Establecer un régimen sistemático de auditorías algorítmicas dinámicas y regulares. Estas auditorías deben evaluar el rendimiento y el impacto del sistema en distintos grupos demográficos, identificando la manifestación de sesgos residuales y garantizando la transparencia del sistema. Este proceso debe ser complementado con una supervisión humana experta en ética y derechos humanos para asegurar la rendición de cuentas. 3. Integración Ética y Educativa en el Diseño: Fomentar una cultura de prevención de riesgos mediante la capacitación y la sensibilización obligatoria sobre los sesgos representacionales y algorítmicos para todos los equipos involucrados. Asimismo, integrar formalmente marcos éticos que exijan la participación de disciplinas en ciencias sociales y ética durante la fase de diseño para anticipar y mitigar activamente la reificación de categorías sociales y la discriminación injusta.