Risk area 6: Environmental and Socioeconomic harms
Los Modelos de Lenguaje (MLs) plantean riesgos que, aunque recurrentes en la Inteligencia Artificial y otras tecnologías avanzadas, se vuelven cada vez más apremiantes. Las preocupaciones ambientales surgen del enorme consumo energético requerido para el entrenamiento y la operación de modelos a gran escala. Por otro lado, la posibilidad de que los MLs exacerben las inequidades sociales se origina en la distribución asimétrica de los beneficios y riesgos de la automatización, la potencial pérdida de empleo seguro y de alta calidad, y el daño ambiental. Muchos de estos riesgos son indirectos, y su impacto específico depende de un complejo entramado de factores comerciales, económicos y sociales, lo que dificulta significativamente su aislamiento y pronóstico. Por esta razón, la evidencia científica que sustenta estos riesgos es, hasta el momento, mixta.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit226
Linea de dominio
6. Socioeconómico y Ambiental
6.0 > Socioeconómico y Ambiental
Estrategia de mitigacion
1. Priorizar el desarrollo y la adopción de Modelos de Lenguaje (MLs) más compactos y eficientes mediante técnicas de optimización algorítmica (ej. cuantización y destilación), con el objetivo de reducir drásticamente el consumo energético en las fases de entrenamiento e inferencia. Concomitantemente, se debe imponer la transición obligatoria de los centros de datos a fuentes de energía renovable certificada y la implementación de sistemas de gestión hídrica de ciclo cerrado para minimizar la demanda de agua limpia. 2. Establecer un marco regulatorio de transparencia y medición del impacto, exigiendo el reporte estandarizado del consumo energético y de recursos (agua y materiales) asociado a cada ML en su ciclo de vida. Esta trazabilidad es esencial para la gobernanza y permite a los responsables tomar decisiones informadas sobre la implementación tecnológica, alineándose con estándares de reporte ambiental. 3. Implementar metodologías de diseño y evaluación que aseguren la equidad socioeconómica, abordando la distribución asimétrica de riesgos y beneficios de la automatización. Esto implica identificar y mitigar activamente los sesgos algorítmicos en los datos de entrenamiento y promover el desarrollo de sistemas de IA que fomenten la inclusión, la diversidad y la mejora del acceso a la información y al empleo de alta calidad, especialmente en comunidades menos privilegiadas.