Razonamiento Causal Limitado
El razonamiento causal consiste en la capacidad de inferir las relaciones subyacentes entre eventos o estados del mundo, centrándose primordialmente en la identificación de vínculos de causa y efecto.
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit468
Linea de dominio
7. Seguridad, Fallos y Limitaciones del Sistema de IA
7.3 > Falta de capacidad o robustez
Estrategia de mitigacion
- Priorizar el ajuste fino supervisado (SFT) con modelado explícito de la estructura causal o marcos avanzados (e.g., CARE, G2-Reasoner) para dotar al LLM de la capacidad de razonamiento causal genuino y reducir la dependencia de la mera replicación de patrones y la alucinación de relaciones causales. - Integrar la salida de algoritmos de Descubrimiento Causal (Causal ML) o modelos gráficos (DAGs, inferencia bayesiana) para complementar el razonamiento del LLM, facilitando la distinción entre correlación y causalidad, y mejorando la identificación de causas raíz y el análisis contrafactual. - Establecer una validación rigurosa mediante *benchmarks* causales específicos (e.g., para contextos nuevos o contrafactuales) y aplicar metodologías de ajuste de factores de confusión para asegurar que el modelo no se base en correlaciones espurias o sesgos poblacionales.
EVIDENCIA ADICIONAL
Aunque GPT-4 demuestra una precisión considerable al inferir la *causa necesaria* de un evento, su exactitud para determinar la *causa suficiente* es significativamente inferior. Esta brecha, según conjeturan los autores, radica en que la inferencia de la causa suficiente requiere que el Gran Modelo de Lenguaje (LLM) evalúe un vasto número de escenarios contrafactuales. Específicamente, los LLMs están obligados a considerar todas las permutaciones posibles, donde cada evento es eliminado o reemplazado, a excepción del resultado observado y el evento que se postula como causa suficiente. Este proceso de eliminación y sustitución masiva es el que impone una mayor complejidad lógica.