Volver al repositorio MIT
7. Seguridad, Fallos y Limitaciones del Sistema de IA1 - Pre-despliegue

Restricciones de uso de datos

La normativa legal y otras restricciones pueden imponer limitaciones o una prohibición directa sobre el empleo de ciertos datos en escenarios específicos de aplicación de la inteligencia artificial

Fuente: MIT AI Risk Repositorymit1143

ENTIDAD

1 - Humano

INTENCIÓN

2 - Involuntario

TIEMPO

1 - Pre-despliegue

ID del riesgo

mit1143

Linea de dominio

7. Seguridad, Fallos y Limitaciones del Sistema de IA

375 riesgos mapeados

7.3 > Falta de capacidad o robustez

Estrategia de mitigacion

- Realizar una evaluación legal exhaustiva de todas las fuentes de datos y de los casos de uso previstos para el sistema de IA con el fin de determinar las restricciones aplicables y asegurar el cumplimiento normativo antes de iniciar la fase de entrenamiento. - Diseñar e implementar un marco de gobernanza de datos que incorpore controles técnicos específicos (por ejemplo, anonimización, seudonimización o privacidad diferencial) y controles organizativos para garantizar que el uso de los datos se ajusta permanentemente a las limitaciones legales y contractuales. - Establecer un plan de contingencia que detalle los procedimientos de respuesta rápida, incluyendo la eliminación controlada de datos o el reentrenamiento del modelo, en caso de que se identifique un riesgo de incumplimiento normativo o una violación de las restricciones de uso de datos durante el ciclo de vida del sistema de IA.