Asimetrías de Información
Asimetrías de la Información: Este concepto aborda el escenario crítico en el cual ciertos agentes, ya sean humanos o sistemas de inteligencia artificial, disponen de información privada esencial que otros carecen. Esta desigualdad informativa se identifica como un vector de riesgo considerable en los sistemas complejos, pues intrínsecamente fomenta fallas de coordinación, propicia la aplicación de estrategias de engaño o manipulación, y escala la probabilidad de conflicto entre las partes involucradas.
ENTIDAD
2 - IA
INTENCIÓN
3 - Otro
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1092
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.6 > Riesgos multi-agente
Estrategia de mitigacion
- Establecimiento de mecanismos obligatorios de **transparencia y divulgación estandarizada de datos**, respaldados por tecnologías como RAG (Retrieval-Augmented Generation) o informes estandarizados, con el fin de nivelar el conjunto de información accesible a todos los agentes del sistema. - Diseño de **mecanismos de señalización creíbles y de *screening***, mediante los cuales el agente con superioridad informativa (p. ej., el modelo de IA o el proveedor) entregue proactivamente **estrategias formalizadas o artefactos de explicación** (XAI) que permitan a la contraparte evaluar la calidad o las intenciones, siguiendo la lógica de la teoría de juegos bayesianos. - Implementación de un **marco de gobernanza de riesgos y auditoría independiente** con supervisión de terceros, complementado con un **alineamiento contractual de incentivos**, para mitigar el riesgo moral y la selección adversa inherentes al desequilibrio informativo.