Falta de transparencia de datos
La opacidad en la transparencia de los datos—un pilar crucial para la auditabilidad de los sistemas de IA—es consecuencia directa de una documentación insuficiente o ausente de los detalles relativos a los conjuntos de datos de entrenamiento o de ajuste fino del modelo.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit1193
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Prioridad Alta: Establecer un Marco de Gobernanza Documentado para la Transparencia de Datos Diseñar y formalizar una política de transparencia de datos que defina de manera explícita los procedimientos de recolección, uso y gestión de los conjuntos de datos de entrenamiento o ajuste fino. Esta documentación debe especificar la procedencia de los datos, los métodos de etiquetado, y las directrices de seguridad y privacidad, asegurando la trazabilidad a lo largo del ciclo de vida del sistema de IA. 2. Prioridad Media: Implementar Auditorías y Procesos Rigurosos para la Calidad y Trazabilidad del Dato Realizar auditorías periódicas a los conjuntos de datos para verificar su calidad, consistencia y la ausencia de sesgos inherentes. Complementariamente, se debe mejorar la gestión de datos para identificar y corregir activamente información incorrecta u obsoleta, garantizando que los detalles documentados reflejen con precisión el estado actual y la composición del *dataset*. 3. Prioridad Baja: Adoptar un Enfoque de Curación y Divulgación Estratégica de la Información Establecer mecanismos de curación de la información para proporcionar contexto, análisis e interpretación de los datos a las partes interesadas, evitando la sobrecarga de datos brutos. Esto incluye la aplicación de un enfoque de transparencia selectiva, donde la divulgación de los detalles del conjunto de datos se equilibra con la protección de la información sensible o secretos comerciales.