Unintentional: direct
La disrupción en la seguridad de la IA ocurre cuando un sistema artificial, a pesar de haber sido concebido para beneficiar a los animales, los humanos o los ecosistemas, genera inesperadamente un impacto perjudicial en la fauna. Este concepto resalta la brecha crítica entre la intención del diseño y los resultados sistémicos, demostrando que la alineación inicial de objetivos con el bienestar animal no es garantía contra consecuencias adversas no previstas.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit636
Linea de dominio
6. Socioeconómico y Ambiental
6.6 > Daño ambiental
Estrategia de mitigacion
1. Reducción del Riesgo (Prioridad Alta): Implementar protocolos de seguridad por diseño (safety-by-design) que integren una Evaluación Rigurosa de Daño Animal (AHA) y análisis pre-mortem de externalidades negativas sobre la fauna. Se requiere un testeo exhaustivo en entornos controlados para minimizar la probabilidad e impacto del daño no intencional antes del despliegue. 2. Monitoreo Continuo y Respuesta Rápida (Prioridad Media): Establecer sistemas de monitoreo continuo y en tiempo real sobre los indicadores de bienestar animal dentro del dominio operativo del sistema de IA. El objetivo es detectar de forma proactiva cualquier impacto adverso no intencionado y permitir la recalibración o intervención inmediata del sistema para contener el daño. 3. Gobernanza y Umbrales de Aceptación (Prioridad Media): Integrar formalmente los resultados de la evaluación de riesgos en un marco de gobernanza que defina umbrales de riesgo residual aceptable. En caso de que el riesgo para la fauna sea inaceptable, aplicar la estrategia de evitación del riesgo mediante la suspensión o el rediseño obligatorio del sistema.