Uso impropio
El Uso Inapropiado se conceptualiza como la **aplicación de un modelo de inteligencia artificial a un propósito o dominio funcional para el cual no fue diseñado ni validado originalmente**, introduciendo así vectores de riesgo imprevistos.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1168
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Definición y Comunicación de Alcance Operacional Establecer rigurosamente y documentar de manera transparente los límites operativos del sistema de inteligencia artificial. Esto incluye la especificación inequívoca del propósito de diseño, los dominios funcionales validados, y las exclusiones explícitas de uso. Esta acción es fundamental para evitar la aplicación del modelo a contextos no evaluados o para los cuales su validación y mitigación de riesgos resultan insuficientes. 2. Implementación de un Programa de Concientización y Capacitación Desarrollar y ejecutar un plan de formación sistemático dirigido a todos los usuarios finales y gestores. El contenido debe centrarse en los sesgos inherentes al modelo, los riesgos de la dependencia excesiva (overreliance) y las directrices de uso seguro. El objetivo es reforzar la alfabetización en IA y mitigar el error humano involuntario en la aplicación de la tecnología. 3. Monitoreo Activo y Auditoría Post-Despliegue Establecer mecanismos de monitoreo continuo del entorno de producción y realizar auditorías periódicas para identificar patrones de uso que se desvíen del dominio funcional validado. Estos sistemas deben estar configurados para activar alertas o puntos de control humano (Human-in-the-Loop) cuando se detecte un Uso Impropio, permitiendo la intervención y la corrección proactiva de la desviación.