Volver a la tabla periodica
5b-05
Sb

Sesgo

Severidad7/10

Sesgo Social

Reproducción y amplificación de prejuicios sociales sistemáticos presentes en los datos de entrenamiento, manifestándose como discriminación basada en raza, género, edad u otras características protegidas.

Ficha periodicaSociedadarXiv2024

Hui Zhong, Songsheng Chen, Mian Liang

Estrategia de Mitigación

Curación de datasets con diversidad demográfica balanceada, aplicación de RLHF con evaluadores diversos, auditorías de equidad algorítmica (Fairness Audits), y técnicas de debiasing.

Número Atómico

5

Sb

ID del riesgo

b-05

Severidad

7/10

Nivel de Severidad

5
Sociedad
b-05
Sb

Sesgo

Sesgo Social

RiesgosIA.org
Sociedad • #5

Sesgo Social

Sb
Nivel de Severidad7/10

Definición

Reproducción y amplificación de prejuicios sociales sistemáticos presentes en los datos de entrenamiento, manifestándose como discriminación basada en raza, género, edad u otras características protegidas.

Estrategia de Mitigación

Curación de datasets con diversidad demográfica balanceada, aplicación de RLHF con evaluadores diversos, auditorías de equidad algorítmica (Fairness Audits), y técnicas de debiasing.

Notas / Observaciones

1.
2.
3.
4.
5.
RiesgosIA.org • Tabla Periódica de Riesgos de IARiesgosIA.org