Volver al repositorio MIT
6. Socioeconómico y Ambiental1 - Pre-despliegue

Definición de uso incompleta

Dada la versatilidad inherente de los modelos fundacionales, el propósito o uso específico para el cual se diseñan resulta crucial al momento de delimitar sus riesgos pertinentes. En consecuencia, si la aplicación de un modelo se modifica o expande, su matriz de riesgos relevante debe ser reevaluada y adaptada de manera proporcional.

Fuente: MIT AI Risk Repositorymit1192

ENTIDAD

1 - Humano

INTENCIÓN

2 - Involuntario

TIEMPO

1 - Pre-despliegue

ID del riesgo

mit1192

Linea de dominio

6. Socioeconómico y Ambiental

262 riesgos mapeados

6.5 > Fallo de gobernanza

Estrategia de mitigacion

1. Priorizar la formalización de un Protocolo de Delimitación y Aprobación del Caso de Uso Previsto, asegurando que la documentación inicial especifique con detalle los límites operativos del modelo fundacional, las poblaciones objetivo y, crucialmente, los usos explícitamente excluidos o no autorizados. Esta acción preventiva es fundamental para definir el marco de riesgos relevante antes del despliegue. 2. Implementar un Protocolo de Gobernanza para la Gestión de Cambios y Reevaluación de Riesgos que exija, ante cualquier alteración o expansión del propósito o aplicación del modelo, una revisión y adaptación obligatoria y exhaustiva de su matriz de riesgos. 3. Asegurar la Trazabilidad Mediante Documentación Exhaustiva y Auditorías Periódicas, desarrollando artefactos que vinculen la definición de uso aprobada con los controles técnicos y operativos del modelo, permitiendo la detección temprana de desviaciones del alcance (scope creep) y asegurando el cumplimiento continuo de la gobernanza.