Diseño de IA
Este concepto se enmarca en la crucial área de la ética de la IA y la gobernanza algorítmica. No solo apunta a las preocupaciones éticas en torno al proceso de creación de la inteligencia artificial, sino que subraya la importancia crítica de quién desarrolla estos sistemas, pues los sesgos introducidos en la fase de diseño —ya sea en los datos de entrenamiento o por la falta de diversidad en los equipos de ingeniería— determinan la equidad, la justicia y la responsabilidad del sistema final, siendo un debate fundamental para su alineación con los valores humanos universales
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit544
Linea de dominio
6. Socioeconómico y Ambiental
6.1 > Centralización del poder y distribución injusta de beneficios
Estrategia de mitigacion
1. Establecer una Estrategia de Gobernanza de IA y Ética Algorítmica: Implementar marcos, políticas y procesos institucionales que guíen el desarrollo responsable, asegurando la alineación con valores universales. Esto incluye la formación de Comités o Juntas de Ética de IA con supervisión humana para la toma de decisiones críticas. 2. Fomentar la Diversidad en los Equipos y la Representatividad de Datos: Promover la colaboración de equipos multidisciplinarios y diversos para minimizar sesgos de perspectiva. Paralelamente, asegurar que los conjuntos de datos de entrenamiento sean diversos, representativos y sometidos a una curación rigurosa mediante técnicas de preprocesamiento. 3. Integrar Auditorías y Mecanismos de Mitigación de Sesgos: Implementar sistemáticamente auditorías de sesgos algorítmicos en los datos y en las salidas del modelo durante la fase de diseño y desarrollo, aplicando métricas de equidad e incorporando técnicas de corrección como el re-muestreo o la re-ponderación antes del despliegue.