Opacidad (opacidad de la industria)
La opacidad de los modelos generativos no reside solamente en su complejidad tecnológica intrínseca, que dificulta a desarrolladores y usuarios comprender su funcionamiento interno. Esta falta de transparencia se ve considerablemente acentuada por las prácticas de las organizaciones que lideran el avance en este ámbito. En particular, numerosas compañías privadas deciden deliberadamente no divulgar las especificaciones y características precisas de sus sistemas de inteligencia artificial más sofisticados.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
3 - Otro
ID del riesgo
mit681
Linea de dominio
6. Socioeconómico y Ambiental
6.4 > Dinámicas competitivas
Estrategia de mitigacion
1. Establecer y aplicar políticas rigurosas de transparencia informativa, exigiendo la divulgación proactiva y detallada de las características, el funcionamiento interno y las salvaguardas de los modelos de IA generativa más avanzados por parte de las entidades desarrolladoras. 2. Integrar técnicas de Inteligencia Artificial Explicable (XAI) en el diseño de los modelos para desmitificar la "caja negra" del proceso de decisión. Esto incluye implementar mecanismos que permitan la trazabilidad de los outputs y la identificación de los factores que influyen en el resultado, mejorando la interpretabilidad para desarrolladores y usuarios. 3. Documentar exhaustivamente el ciclo de vida del modelo, abarcando su propósito, los conjuntos de datos de entrenamiento y los mecanismos de seguridad implementados, y someterlo a procesos de monitoreo continuo y auditorías independientes. Esta verificación es crucial para el cumplimiento regulatorio y la detección de vulnerabilidades o sesgos ocultos.