Responsabilidad y negligencia
La responsabilidad y la negligencia constituyen una zona gris legal en el ámbito de la inteligencia artificial. Consideremos el dilema: si un padre deja a sus hijos al cuidado de una niñera robótica y esta funciona mal, ¿quién asume la responsabilidad legal, el progenitor o el fabricante? Esta ambigüedad legal requiere una clarificación urgente a través de marcos legislativos robustos, tanto a nivel nacional como internacional. Por ejemplo, al asignar al fabricante la responsabilidad directa por los fallos operativos, se establece un potente incentivo para que este integre activamente la ingeniería de seguridad y la ética de las máquinas en el proceso de diseño. Por el contrario, una ausencia de legislación en este sector podría conducir al desarrollo negligente de sistemas de IA, lo que incrementaría de forma significativa los riesgos asociados a su implementación.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit121
Linea de dominio
6. Socioeconómico y Ambiental
6.5 > Fallo de gobernanza
Estrategia de mitigacion
1. Establecer marcos regulatorios de carácter obligatorio, a nivel nacional e internacional, que clarifiquen la atribución de la responsabilidad legal (responsabilidad objetiva) al fabricante o desarrollador ante el mal funcionamiento de sistemas de IA, incentivando así la inversión en ingeniería de seguridad y ética de las máquinas 2. Exigir la adopción de un sistema de gobernanza de IA integral que incorpore la trazabilidad documental del proceso de diseño, evaluaciones de riesgo periódicas y auditorías de rendimiento post-despliegue, permitiendo demostrar la debida diligencia y el cumplimiento normativo para reducir la probabilidad de negligencia 3. Implementar mecanismos de monitoreo continuo (24/7) de los artefactos de IA y sus entornos operativos, junto con políticas claras de respuesta a incidentes que garanticen la investigación inmediata, la preservación de evidencias y la remediación proactiva de cualquier anomalía o fallo operativo detectado