Falta de comprensión de datos
La comprensión exhaustiva de los datos utilizados para entrenar un sistema de Inteligencia Artificial es un requisito fundamental. Si se ignora esta premisa, se corre el riesgo de introducir insuficiencias o sesgos intrínsecos a los datos que, en última instancia, obstaculizarán el desarrollo de un sistema de IA robusto y, sobre todo, idóneo para cumplir con la funcionalidad específica para la que fue diseñado.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
1 - Pre-despliegue
ID del riesgo
mit880
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.0 > Seguridad, fallos y limitaciones del sistema de IA
Estrategia de mitigacion
P1. Establecer un **Marco de Gobernanza de Datos** exhaustivo que incluya la **catalogación de activos de datos**, la **documentación de metadatos** detallada y el **mapeo de linaje** del dato. Este proceso es fundamental para garantizar una trazabilidad completa y una comprensión contextualizada de la fuente, las transformaciones y la estructura de los datos utilizados en el desarrollo del sistema de IA. P2. Implementar un **Análisis y Evaluación Continua de la Calidad del Dato** que involucre a **expertos en la materia (SMEs)** para validar la **exactitud, integridad, consistencia y representatividad** de los conjuntos de entrenamiento. Este paso debe incluir la identificación proactiva y la mitigación de **sesgos intrínsecos** y la detección de **insuficiencias** o *valores atípicos* que puedan comprometer la idoneidad del modelo. P3. Fomentar la **Alfabetización de Datos (Data Literacy)** a nivel organizacional, especialmente entre los equipos de desarrollo e implementación de IA, mediante programas de capacitación y plataformas de colaboración. Esto asegura que todas las partes interesadas posean la competencia necesaria para **interpretar correctamente el contexto, las limitaciones y el propósito** de los datos, trascendiendo los silos funcionales.