Procesos epistémicos empeorados para la sociedad
Procesos epistémicos y resolución de problemas: Actualmente, las preocupaciones sobre el deterioro de los procesos epistémicos de la sociedad a causa de la IA superan las expectativas optimistas sobre su capacidad para mejorar la resolución de problemas sociales. El incremento en el uso de algoritmos de selección de contenido, por ejemplo, puede fomentar la insularidad epistémica—el aislamiento en burbujas informativas—y erosionar la confianza en fuentes multipartidistas fidedignas. Este efecto reduciría nuestra habilidad colectiva para enfrentar desafíos trascendentales y de largo plazo, como son las pandemias globales y el cambio climático.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit789
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Establecimiento de marcos de gobernanza y transparencia algorítmica: Implementar marcos formales de gestión de riesgos de IA, como las directrices del NIST, que exijan a las organizaciones aumentar la divulgación de información sobre el diseño y el funcionamiento de los algoritmos de selección de contenido. Esto incluye establecer registros de transparencia y limitar el uso de microsegmentación desinformativa para contrarrestar la insularidad epistémica. 2. Fomento de la resiliencia ciudadana mediante la alfabetización: Promover de manera proactiva y continua la alfabetización mediática e informacional a través de programas educativos multinivel. El objetivo es capacitar a la población para aplicar el pensamiento crítico, evaluar la fiabilidad de las fuentes multipartidistas y mitigar la aceptación acrítica de la información generada por IA. 3. Integración de evaluaciones de impacto ético y gestión de sesgos: Instituir la realización obligatoria de evaluaciones de impacto sobre los derechos humanos y procesos exhaustivos de identificación, medición y mitigación de sesgos (raciales, socioeconómicos, de género) en los sistemas de IA. Esto es fundamental para asegurar que las aplicaciones promuevan la equidad, la autonomía humana y la confianza en los procesos de conocimiento.