Disparate access to benefits due to hardware, software, skills constraints
La disparidad en el acceso a internet, las barreras lingüísticas, la falta de habilidades específicas o los requisitos de *hardware* implican que los Modelos de Lenguaje (ML) no serán igualmente accesibles para todos. Esta brecha tecnológica, al beneficiar de forma desproporcionada a ciertos grupos, corre el riesgo de exacerbar y perpetuar las inequidades a escala global.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit256
Linea de dominio
6. Socioeconómico y Ambiental
6.1 > Centralización del poder y distribución injusta de beneficios
Estrategia de mitigacion
1. Priorizar la Inclusión Digital y el Acceso Universal * Establecer y cumplir directrices estrictas de accesibilidad tecnológica, incluyendo el diseño para entornos de hardware y software limitados, y la optimización del contenido para la diversidad lingüística, con foco en lenguas subrepresentadas. * Invertir en el desarrollo de infraestructuras y modelos de bajo requerimiento computacional para garantizar el acceso asequible a los beneficios de los LLMs en poblaciones con barreras económicas o geográficas.2. Implementar Mecanismos Rigurosos de Equidad Algorítmica * Auditar y des-sesgar continuamente los conjuntos de datos de entrenamiento y los resultados del modelo, utilizando métricas de equidad para asegurar un rendimiento paritario y fiable para todos los grupos sociales, mitigando la replicación de inequidades. * Desarrollar y aplicar técnicas de modelado (como RLHF con retroalimentación culturalmente informada) para garantizar que el sistema no penalice a ningún grupo demográfico con mayor tasa de errores o menor calidad de aplicación.3. Fomentar la Alfabetización y Capacitación Digital * Diseñar y ejecutar programas educativos específicos para desarrollar las habilidades y la comprensión crítica necesarias para la interacción efectiva y segura con los LLMs, especialmente dirigidos a grupos con escasa experiencia o formación digital. * Utilizar la IA de forma proactiva para democratizar el acceso a recursos de apoyo de alta calidad, como herramientas de *feedback* en habilidades fundamentales (lectura, escritura, pensamiento crítico), cerrando la brecha de oportunidades educativas.
EVIDENCIA ADICIONAL
Acceso a oportunidades económicas. Las decisiones de diseño en los Modelos de Lenguaje (ML) tienen un impacto colateral significativo en quién tiene más probabilidades de beneficiarse de la tecnología. Concretamente, los desarrolladores de productos podrían inclinarse a crear aplicaciones basadas en ML para aquellos grupos sociales en los que el modelo demuestra un rendimiento fiable y minimiza los errores. Esto, inherentemente, podría marginar a los grupos para los cuales el ML es menos preciso, dejándolos con un acceso limitado a aplicaciones de calidad. (Ver Rendimiento inferior por grupo social).