Movilidad
El auge de la inteligencia artificial en el transporte promete una eficiencia notable, pero plantea dos dilemas fundamentales para la seguridad de la IA. En primer lugar, la compleja cuestión de la responsabilidad legal o *liability* en caso de accidente. En segundo lugar, y más profundamente, la crucial necesidad de establecer los principios éticos que guiarán a los agentes de transporte autónomos cuando deban tomar decisiones críticas que puedan tener un impacto potencialmente peligroso o fatal en la vida humana, por ejemplo, durante un siniestro inevitable.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit587
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Priorizar el diseño e implementación de un *marco regulatorio* que establezca los criterios de **responsabilidad civil objetiva** por daños causados por sistemas de transporte autónomo, delineando claramente las obligaciones del fabricante, desarrollador de *software* y operador, e incluyendo la obligatoriedad de seguros de responsabilidad especializados para mitigar el riesgo financiero. 2. Desarrollar e integrar **marcos éticos programáticos** en los algoritmos de toma de decisiones críticas (dilemas de siniestro inevitable), basados en principios universales de protección de la vida humana, y garantizar la **trazabilidad y auditabilidad** de dichas decisiones algorítmicas para asegurar la rendición de cuentas. 3. Establecer **protocolos de supervisión humana efectiva** en situaciones críticas y la **validación exhaustiva** de los sistemas de IA en entornos controlados y reales antes de su despliegue, a fin de minimizar la probabilidad de fallos accidentales y garantizar la conformidad con los niveles de seguridad exigidos.