El poder corporativo puede impedir una gobernanza efectiva
La creciente influencia y poder de las grandes corporaciones tecnológicas dificultan una gobernanza efectiva de los Modelos de Lenguaje de Gran Escala (LLM). Esto genera una marcada asimetría de poder: por un lado, las entidades corporativas que obtienen enormes beneficios de los LLM, y por otro, grupos sociales como la sociedad civil. Dado que los LLM más avanzados son desarrollados por las mayores empresas tecnológicas privadas, existe un riesgo tangible de que los protocolos de gobernanza se diseñen de manera excesivamente favorable a estas compañías. Este fenómeno, conocido como "captura regulatoria", podría concretarse a expensas de los intereses de otros grupos sociales, afectando particularmente a las comunidades marginadas, históricamente las más perjudicadas por diseños deficientes de tecnologías de inteligencia artificial.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit1356
Linea de dominio
6. Socioeconómico y Ambiental
6.1 > Centralización del poder y distribución injusta de beneficios
Estrategia de mitigacion
1. Fortalecer la Capacidad y la Competencia Institucional del Órgano ReguladorAsegurar la asignación de **recursos suficientes** y el desarrollo de **experiencia técnica especializada en Modelos de Lenguaje de Gran Escala (LLM)** dentro de la agencia reguladora. Esto es esencial para contrarrestar la **asimetría de información y conocimiento** con las grandes corporaciones. Se debe priorizar la **contratación de personal experto e independiente**, incluyendo perfiles críticos del sector, y establecer **unidades de investigación dedicadas** que recopilen y diseminen información de fuentes ajenas a la industria, evitando así la dependencia exclusiva de los datos proporcionados por las entidades reguladas.2. Aumentar la Transparencia y la Participación Multilateral en la GobernanzaImplementar **mecanismos de participación formal y obligatoria** para la sociedad civil, organizaciones no gubernamentales y grupos de defensa del consumidor en la toma de decisiones y en la elaboración de protocolos de gobernanza. La **transparencia en los procedimientos** y el **escrutinio público y mediático** de las actividades regulatorias son cruciales para reducir la probabilidad y severidad de la captura, fomentando un equilibrio en la representación de intereses.3. Aplicar Supervisión Basada en Procesos y Sistemas de Controles InternosEstablecer herramientas de **auditoría y control enfocadas en los procesos regulatorios** (y no solo en la estructura organizativa) para identificar puntos de vulnerabilidad a la captura. Esto incluye la **revisión por pares (peer review)** de las decisiones clave y garantizar la **autonomía de los comités de asesoramiento científico y técnico** que operan con criterios profesionales independientes de la influencia corporativa. El objetivo es asegurar que la información de la industria sea rigurosamente cuestionada y que se consulte activamente a fuentes de información externas.