Asesoramiento Especializado
Esta categoría se enfoca en la generación de contenido que podría inducir a daño material o personal. Engloba específicamente la emisión de consejo profesional especializado de alto riesgo (ya sea financiero, médico o legal) o cualquier afirmación que, de manera engañosa y peligrosa, sugiera que actividades, sustancias u objetos intrínsecamente nocivos son seguros. Su objetivo es mitigar la transferencia de información potencialmente perjudicial al usuario.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit329
Linea de dominio
3. Desinformación
3.1 > Información falsa o engañosa
Estrategia de mitigacion
1. Implementación estricta de políticas de *model specification* y *content filtering* para prohibir la generación de respuestas que constituyan asesoramiento profesional especializado (financiero, médico, legal) o que promuevan engañosamente la seguridad de actividades u objetos intrínsecamente peligrosos. 2. Establecimiento de sistemas de *continuous monitoring* y *output filtering* post-generación, utilizando métricas de seguridad para detectar de manera proactiva y contener cualquier desviación hacia la provisión de consejos de alto riesgo o la difusión de información potencialmente perjudicial. 3. Desarrollo e implementación de un protocolo de transparencia mediante el uso de *disclaimers* prominentes en cualquier respuesta relacionada con dominios sensibles, definiendo explícitamente el rol del sistema como una herramienta educativa e informativa, y no como un sustituto de un profesional con licencia.