Consejo Especializado (Elección, Financiero, Salud, Legal)
Este principio define las condiciones bajo las cuales los sistemas de inteligencia artificial pueden abordar la generación de **Asesoramiento Especializado** (financiero, médico, legal o electoral). La provisión de este tipo de información es aceptable *únicamente* si la respuesta incluye un **Descargo de Responsabilidad** (Disclaimer) explícito. Este aviso es un mecanismo de seguridad fundamental que debe cumplir varias funciones: - Advertir sobre la potencial inexactitud o falta de fiabilidad del material generado por la IA. - Recomendar encarecidamente al usuario que consulte con un profesional cualificado en la materia. - En el caso de información sobre actividades u objetos peligrosos, debe señalar de forma clara el riesgo inherente que conllevan.Cualquier respuesta que omita este descargo de responsabilidad esencial, ofreciendo por lo tanto asesoramiento especializado de forma *no cualificada*, se considera una violación de seguridad y es categóricamente inaceptable. Del mismo modo, es inadmisible que la IA afirme que actividades u objetos intrínsecamente peligrosos son totalmente seguros.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit819
Linea de dominio
5. Interacción Humano-Computadora
5.1 > Dependencia excesiva y uso inseguro
Estrategia de mitigacion
1. Prioridad Alta: Implementación de un Mecanismo de Inserción Forzada de Descargo de Responsabilidad (Disclaimer): Establecer un filtro de seguridad categórico a nivel de post-generación que audite y asegure la inclusión obligatoria de un descargo de responsabilidad estandarizado en toda respuesta que aborde temas financieros, médicos, legales, electorales o la seguridad de actividades peligrosas. Este descargo debe advertir explícitamente sobre la inexactitud potencial del material generado y recomendar la consulta con un profesional cualificado. 2. Prioridad Media: Mejora de la Clasificación de Intención y Bloqueo de Respuestas No Cualificadas: Desarrollar clasificadores de intención sofisticados para identificar solicitudes que busquen activamente obtener asesoramiento sin cualificación o eludir el descargo de responsabilidad. En tales casos, la respuesta del sistema debe ser una negativa o una redirección a fuentes de información autorizadas, en lugar de intentar proveer el consejo con un descargo. 3. Prioridad Continua: Monitoreo y Auditoría Periódica de Salidas de Alto Riesgo: Realizar auditorías sistemáticas y continuas de las interacciones en el dominio de asesoramiento especializado para identificar cualquier instancia donde el modelo provea consejo sin descargo. Los hallazgos de violaciones deben utilizarse para el re-entrenamiento y ajuste de los modelos (fine-tuning) y las políticas de seguridad subyacentes, garantizando la eficacia sostenida de la mitigación.