Interacción Humano-IA
Se refiere al análisis de los dilemas morales y las implicaciones sociales derivadas del diseño, despliegue y uso de sistemas de Inteligencia Artificial en contextos de interacción humana, con un enfoque en la transparencia, la equidad y la responsabilidad.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit549
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
- Implementar marcos rigurosos de supervisión humana ("Human-in-the-Loop") que garanticen la intervención y determinación final del ser humano en decisiones críticas, con el objetivo primordial de mitigar el sesgo de automatización (*automation bias*) y preservar la responsabilidad última. - Establecer requisitos de transparencia y explicabilidad (T\&E) que sean proporcionales al contexto de uso del sistema. Esto facilitará la comprensión de la lógica decisional por parte de los usuarios, la trazabilidad de los resultados y la auditoría efectiva para un uso seguro. - Integrar la Evaluación de Impacto Ético (EIA) y principios de diseño centrado en el ser humano desde las fases iniciales del desarrollo para anticipar y mitigar proactivamente los riesgos de daño y uso inseguro del sistema, alineándolo con el bienestar y las necesidades del usuario.