Volver al repositorio MIT
6. Socioeconómico y Ambiental2 - Post-despliegue

Daños laborales y macro-socioeconómicos

A nivel estructural, los sistemas algorítmicos presentan un riesgo significativo al potenciar los "desequilibrios de poder en las relaciones socioeconómicas". Esta amplificación se observa en la profundización de las brechas digitales y la consolidación de desigualdades sistémicas ya arraigadas. En el ámbito laboral, la implementación de estos sistemas puede fomentar nuevas formas de explotación, incluyendo la recopilación de datos no ética, el empeoramiento de las condiciones de trabajo o la emergencia de un desempleo tecnológico caracterizado por la desvalorización y descalificación de la mano de obra humana. Finalmente, en el sector financiero, un fallo a gran escala de los sistemas algorítmicos puede desencadenar incidentes de alto impacto como los "colapsos repentinos" (flash crashes), cuyas repercusiones se extienden por toda la economía.

Fuente: MIT AI Risk Repositorymit156

ENTIDAD

3 - Otro

INTENCIÓN

3 - Otro

TIEMPO

2 - Post-despliegue

ID del riesgo

mit156

Linea de dominio

6. Socioeconómico y Ambiental

262 riesgos mapeados

6.1 > Centralización del poder y distribución injusta de beneficios

Estrategia de mitigacion

1. Implementar Marcos de Gobernanza de IA y Políticas de Inclusión Digital Priorizar la adopción de un Marco de Gestión de Riesgos de IA (AI RMF) para asegurar que el diseño, desarrollo y despliegue de sistemas algorítmicos mitiguen activamente la exacerbación de desigualdades sistémicas y brechas digitales. Esto debe ir acompañado de políticas públicas que fortalezcan la infraestructura digital, subsidien el acceso y promuevan la alfabetización digital universal para abordar los desequilibrios de poder socioeconómico (Fuente 9, 11, 17, 18). 2. Establecer Procedimientos Rigurosos de Diligencia Debida en la Cadena de Suministro Laboral Exigir a las organizaciones que implementen procesos exhaustivos de diligencia debida en sus cadenas de suministro y valor, con un enfoque específico en la prevención de la explotación laboral, la recopilación de datos no ética y el aseguramiento de condiciones de trabajo justas. Los procedimientos deben incluir la evaluación, integración de hallazgos, seguimiento y comunicación de cómo se abordan los riesgos de derechos humanos, con la rendición de cuentas asignada a la alta dirección (Fuente 1, 3, 4). 3. Desarrollar Estrategias de Adaptación para el Desempleo Tecnológico Fomentar la inversión a gran escala en educación y programas de aprendizaje continuo (*lifelong learning*) para la recapacitación de la fuerza laboral, cerrando la brecha de habilidades y preparando a los trabajadores para roles no rutinarios y complementarios a la automatización. A nivel macroeconómico, considerar políticas activas como la promoción de la creación de empleo en sectores resistentes a la automatización, o la exploración de mecanismos de apoyo social como la renta básica o la reducción de la jornada laboral para contrarrestar la devaluación del trabajo humano (Fuente 5, 6, 7, 8).

EVIDENCIA ADICIONAL

Los perjuicios asociados a las cadenas de suministro laborales y materiales de las tecnologías de IA, las pruebas beta y la explotación comercial.