Volver al repositorio MIT
7. Seguridad, Fallos y Limitaciones del Sistema de IA3 - Otro

Hardware del Sistema

Las fallas inherentes al hardware representan un riesgo fundamental para la seguridad algorítmica, ya que pueden socavar la ejecución correcta de un programa al perturbar su flujo de control. Estos fallos tienen la capacidad de inducir errores basados en la memoria o interferir con las entradas de datos críticas, como las señales de los sensores, lo cual inevitablemente conduce a la generación de resultados erróneos. De forma más directa, las salidas dañadas o defectuosas pueden comprometer de manera intrínseca la validez o la integridad del producto final del sistema.

Fuente: MIT AI Risk Repositorymit185

ENTIDAD

2 - IA

INTENCIÓN

2 - Involuntario

TIEMPO

3 - Otro

ID del riesgo

mit185

Linea de dominio

7. Seguridad, Fallos y Limitaciones del Sistema de IA

375 riesgos mapeados

7.3 > Falta de capacidad o robustez

Estrategia de mitigacion

1. Prioridad Alta: Implementar una estrategia integral de Gestión de Activos de Hardware (HAM) que abarque el control completo del ciclo de vida del equipo, desde la adquisición hasta la retirada, e incluir programas de mantenimiento preventivo y correctivo rigurosos para mitigar fallos sistemáticos y el desgaste prematuro de componentes críticos. 2. Prioridad Media: Desarrollar e integrar mecanismos de resiliencia operativa, como la redundancia de componentes (ej. fuentes de alimentación) y la protección robusta contra picos de tensión y factores ambientales (temperatura, polvo), con el fin de prevenir fallos de causa común que comprometan la disponibilidad del sistema. 3. Prioridad Necesaria: Establecer sistemas de monitoreo proactivo para la detección temprana de fallos aleatorios o inminentes y garantizar la integridad de los datos mediante la implementación y prueba regular de planes de respaldo y recuperación para la continuidad operativa.

EVIDENCIA ADICIONAL

En términos generales, las fallas relacionadas con el hardware se articulan en tres grupos fundamentales que definen su origen y previsibilidad: • Fallos aleatorios de hardware • Fallos de causa común • Fallos sistemáticos