Obtención y enriquecimiento de datos explotadores
La perpetuación de esquemas laborales explotadores y precarios inherentes a la construcción de sistemas de inteligencia artificial. Este riesgo ético se manifiesta principalmente en la cadena de suministro de datos (sourcing) y en las fases de validación o pruebas de usuario, lo cual socava la base humana del desarrollo tecnológico.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit283
Linea de dominio
6. Socioeconómico y Ambiental
6.2 > Aumento de la desigualdad y disminución de la calidad del empleo
Estrategia de mitigacion
- Implementación de Protocolos de Seguridad y Salud Ocupacional Reforzados: Establecer directrices estrictas para la protección psicológica y física de los anotadores y probadores de datos, incluyendo la provisión de apoyo psicológico adecuado y sistemas de filtrado de contenido nocivo, con auditoría independiente para verificar el cumplimiento. - Gobernanza y Auditoría Ética de la Cadena de Suministro de Datos: Exigir una debida diligencia rigurosa a los proveedores de datos, realizando auditorías periódicas e independientes para verificar la calidad del empleo, las condiciones laborales y la adhesión a los estándares de derechos humanos y laborales en todos los niveles de la cadena de suministro. - Garantía de Derechos Laborales y Compensación Justa: Asegurar la plena aplicación de los derechos laborales fundamentales, la libre asociación y la negociación colectiva, y establecer estándares de salario digno y compensación justa para los trabajadores involucrados en el entrenamiento y validación de sistemas de IA.
EVIDENCIA ADICIONAL
La exposición ética y psicológica de anotadores humanos a contenido audiovisual nocivo, un desafío crítico en la seguridad de la IA (Perrigo, 2023).