Daño accidental
La automatización en sectores clave, desde la manufactura hasta la sanidad, ha generado y seguirá intensificando un contacto cercano entre humanos y sistemas de Inteligencia Artificial Encarnada (IAE). Esta proximidad conlleva un riesgo incrementado de daño físico accidental. Si bien el daño accidental ha sido un desafío histórico en la robótica industrial, el aumento en las capacidades de la IA tiene el potencial de exacerbar este peligro, una tendencia respaldada por informes recientes que documentan un alza en las lesiones industriales tras la implementación de robots controlados por sistemas de inteligencia artificial más avanzados.
ENTIDAD
3 - Otro
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1278
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
1. **Implementar un marco de Robustez Técnica y Validación Continua**: Desarrollar y aplicar rigurosos protocolos de diseño seguro que incorporen técnicas de entrenamiento adversarial y pruebas de estrés para asegurar que los sistemas de Inteligencia Artificial Encarnada (IAE) mantengan un rendimiento predecible y estable ante condiciones de operación variables, datos ruidosos o fallos inesperados, mitigando así los riesgos derivados de la falta de capacidad algorítmica. 2. **Establecer Salvaguardas Físicas y Operativas Híbridas**: Integrar tecnologías avanzadas de monitoreo basado en IA (p.ej., visión por computadora para detección de zonas de peligro o incumplimiento de EPI) con procedimientos de seguridad industrial establecidos y críticos, como la instalación obligatoria de resguardos físicos en maquinaria y el cumplimiento estricto de los procedimientos de bloqueo/etiquetado (LOTO) durante el mantenimiento, para prevenir el contacto accidental. 3. **Garantizar la Supervisión Humana Efectiva y la Formación Especializada**: Diseñar la interacción humano-IA en el flujo de trabajo para que exista una **Supervisión Humana** con la capacidad técnica de intervención y anulación inmediata del sistema (interruptibility), y proporcionar una formación integral a los operarios sobre las limitaciones, las capacidades exactas y los protocolos de uso seguro del sistema de IAE, asegurando que las decisiones asistidas por IA no sustituyan el juicio profesional en situaciones críticas.