Imprevisibilidad de la trayectoria de desarrollo de IA
La velocidad vertiginosa y la naturaleza fundamentalmente emergente de la IA generan una trayectoria de desarrollo intrínsecamente impredecible. Esto dificulta enormemente la creación de marcos de gobernanza y estrategias de gestión de riesgos capaces de anticipar peligros aún no manifestados.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit969
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Adoptar metodologías de Prospectiva Estratégica y Vigilancia del Horizonte (Horizon Scanning) para identificar tempranamente señales de cambio en la trayectoria tecnológica y sus implicaciones éticas y sociopolíticas, facilitando la adaptación proactiva de los marcos de gobernanza antes de la manifestación de riesgos. 2. Implementar un monitoreo continuo y adaptativo de riesgos a lo largo del ciclo de vida del modelo (Model Lifecycle), lo que incluye la evaluación de riesgos repetible, el *red teaming* de IA y la validación constante de datos, para detectar anomalías y comportamientos emergentes que se deriven de la naturaleza impredecible del sistema. 3. Establecer mecanismos de coordinación internacional para el desarrollo de la IA de propósito general, con el fin de mitigar los incentivos a la 'carrera de IA' y promover un consenso global sobre marcos regulatorios dinámicos y flexibles que se ajusten a la evolución impredecible de la tecnología.