Daños al Sistema Social
Los perjuicios a nivel de sistema social o societal se refieren a las repercusiones adversas a escala macroestructural que emergen de la implementación de nuevos sistemas algorítmicos dinámicos. Estos efectos nocivos se manifiestan principalmente a través de la capacidad de la tecnología para institucionalizar sesgos preexistentes y profundizar la desigualdad, además de acelerar de manera exponencial la magnitud y el alcance con que se propagan los daños.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit152
Linea de dominio
6. Socioeconómico y Ambiental
6.0 > Socioeconómico y Ambiental
Estrategia de mitigacion
1. Implementar rigurosos marcos de Gobernanza de IA que abarquen todo el ciclo de vida del sistema (diseño, desarrollo y despliegue), enfocándose en asegurar que los datos de entrenamiento sean representativos y que el diseño algorítmico mitigue activamente el sesgo para evitar la institucionalización de desigualdades preexistentes. 2. Establecer sistemas de Monitoreo Continuo y Auditoría Ética post-despliegue, utilizando métricas de equidad sensibles al contexto social, para detectar la deriva del sesgo y los resultados adversos a nivel macroestructural, asegurando además la capacidad de detener o modificar los sistemas de manera expedita. 3. Desarrollar mecanismos de Transparencia y Explicabilidad que permitan a las comunidades afectadas y a los reguladores comprender cómo los sistemas algorítmicos llegan a sus decisiones, y garantizar un proceso de Reparación (moral, técnica y financiera) para abordar los daños sistémicos ya manifestados, especialmente entre grupos históricamente marginados.