Sociedad de la IA
La Inteligencia Artificial (IA) ya no es un concepto futurista; de hecho, moldea profundamente múltiples facetas de nuestra vida cotidiana y la estructura social. Sus aplicaciones son tangibles y se manifiestan en sectores clave como el transporte, los sistemas educativos, la seguridad pública y las plataformas de vigilancia, ámbitos donde la ciudadanía interactúa de manera directa con esta tecnología. No obstante, esta integración genera inquietudes significativas. Un foco de preocupación primordial es la progresiva e inadvertida automatización del mercado laboral. A un nivel más profundo, ciertas voces han expresado temores que van desde una dependencia tecnológica total hasta la percepción de la IA como una amenaza de índole existencial para el futuro de la humanidad.
ENTIDAD
3 - Otro
INTENCIÓN
3 - Otro
TIEMPO
3 - Otro
ID del riesgo
mit298
Linea de dominio
5. Interacción Humano-Computadora
5.2 > Pérdida de agencia y autonomía humana
Estrategia de mitigacion
1. Implementación de Supervisión y Control Humano Obligatorios (Human-in-the-Loop/Human-on-the-Loop): Exigir la integración de mecanismos de supervisión humana efectiva y la capacidad de anulación ("kill-switch") en todos los sistemas de IA con grados significativos de autonomía, especialmente en aquellos que afecten directamente derechos fundamentales o decisiones críticas, para asegurar el mantenimiento de la agencia humana sobre el sistema. 2. Establecimiento de Marcos de Transparencia y Explicabilidad Rigurosos: Desarrollar e implementar protocolos de transparencia y capacidad de explicación (explainability) que permitan a los usuarios y a las partes interesadas comprender la lógica, los límites y los sesgos de las decisiones autónomas de la IA, reduciendo la dependencia injustificada y empoderando al individuo con mecanismos de rectificación. 3. Desarrollo de Gobernanza y Ética de la IA Centradas en el Ser Humano: Definir e imponer un marco de gobernanza legal y ético (alineado con estándares internacionales como la Ley de IA de la UE o los Principios de la OCDE) que clasifique los niveles de autonomía según el riesgo y establezca responsabilidades claras para la rendición de cuentas, asegurando que la tecnología refuerce, en lugar de disminuir, la autonomía individual y social.