Volver al repositorio MIT
6. Socioeconómico y Ambiental3 - Otro

Presiones competitivas en lanzamiento de productos GPAI

En escenarios de alta competencia, los desarrolladores de sistemas de Inteligencia Artificial de Propósito General (IAPG) pueden verse inclinados a minimizar la rigurosidad de la evaluación de seguridad de sus modelos. Este comportamiento competitivo favorece la inversión de tiempo y recursos en maximizar las capacidades del sistema. Esta dinámica resulta especialmente crítica cuando se postula una correlación positiva entre la potencia (capacidades) de un sistema de IA y la severidad de los riesgos que este conlleva.

Fuente: MIT AI Risk Repositorymit1045

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

3 - Otro

ID del riesgo

mit1045

Linea de dominio

6. Socioeconómico y Ambiental

262 riesgos mapeados

6.4 > Dinámicas competitivas

Estrategia de mitigacion

1. Prioridad Alta: Implementación Obligatoria de un Marco de Gestión de Riesgos Sistémicos Exigir a los proveedores de modelos de IA de Propósito General (IAPG) con riesgo sistémico que establezcan y apliquen un Marco de Seguridad y Protección de vanguardia *antes* de la comercialización. Este marco debe incluir la evaluación rigurosa y la mitigación de los riesgos sistémicos para asegurar que estos sean aceptables, de conformidad con las obligaciones del Reglamento de IA (Artículo 55). 2. Transparencia Regulatoria y Rendición de Cuentas Ante Autoridades Establecer la obligación de elaborar y mantener documentación técnica exhaustiva, como el Formulario de Documentación del Modelo y los Informes de Seguridad, que se deben proporcionar a la Oficina de IA y a las autoridades nacionales competentes. Esto introduce un mecanismo de control externo que desalienta la omisión de evaluaciones de seguridad en aras de la velocidad competitiva. 3. Monitoreo Continuo y Proporcionalidad del Riesgo Implementar evaluaciones continuas del modelo y procesos de vigilancia posterior a la comercialización a lo largo de todo el ciclo de vida. Las medidas de mitigación deben ser actualizadas y proporcionales a las capacidades del modelo y a la evolución de los riesgos sistémicos identificados.