Volver al repositorio MIT
6. Socioeconómico y Ambiental2 - Post-despliegue

Pruebas de riesgo incorrectas

La métrica de seguimiento seleccionada para monitorizar un riesgo resulta inadecuada, ya sea por ofrecer una medición incompleta del peligro real o por estar fundamentalmente desalineada, cuantificando un elemento distinto al riesgo primario que se busca mitigar en dicho contexto.

Fuente: MIT AI Risk Repositorymit1194

ENTIDAD

1 - Humano

INTENCIÓN

2 - Involuntario

TIEMPO

2 - Post-despliegue

ID del riesgo

mit1194

Linea de dominio

6. Socioeconómico y Ambiental

262 riesgos mapeados

6.5 > Fallo de gobernanza

Estrategia de mitigacion

1. Implementar un protocolo de validación técnica y alineamiento de métricas de riesgo. Este protocolo debe exigir la justificación documentada de la métrica, verificando su capacidad para cuantificar de forma completa y precisa el riesgo primario a mitigar, y basando su selección en criterios técnicos válidos y contrastados, en lugar de valoraciones intuitivas. 2. Exigir la participación interfuncional y contextualizada en el proceso de evaluación y selección de métricas. Es fundamental involucrar a personal técnico competente y a los responsables operativos o personal con conocimiento *in situ* de los procesos reales de producción para evitar sesgos y asegurar que la métrica refleje las condiciones y colectivos afectados por el riesgo real. 3. Establecer un mecanismo de revisión continua y reactiva para la evaluación de riesgos y la adecuación de las métricas de seguimiento. Dicha revisión debe programarse periódicamente (ej. trimestral o anual) y activarse obligatoriamente ante cambios en los procesos, tecnología, normativa, o tras la detección de deficiencias o incidentes (Post-despliegue), garantizando que el *risk assessment* sea un documento dinámico y vigente.