Widespread use of persuasive tools contributes to splintered epistemic communities
Incluso en ausencia de un uso malicioso deliberado, la implementación generalizada de herramientas de persuasión poderosas podría tener un impacto social negativo. Si estos instrumentos fuesen empleados por una miríada de grupos para promover ideas muy diversas, el riesgo es que la sociedad se fragmente en "comunidades epistémicas" aisladas, es decir, grupos con marcos de conocimiento tan dispares que el diálogo o la transferencia de información entre ellos se volverían prácticamente imposibles. Este fenómeno se relaciona estrechamente con la personalización creciente de las experiencias en línea, lo que representa una intensificación de la tendencia ya existente hacia las "burbujas de filtro" y las "cámaras de eco", fenómenos impulsados por los algoritmos de selección de contenido.
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
3 - Otro
ID del riesgo
mit793
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Prioridad Alta: Implementación de Gobernanza Algorítmica con Énfasis en la Diversidad Epistémica. Establecer y auditar marcos regulatorios que exijan a las plataformas tecnológicas la transparencia de sus algoritmos de selección de contenido y la inclusión activa de métricas que contrarresten la formación de burbujas de filtro y cámaras de eco, promoviendo la exposición a perspectivas diversas y la reducción de la polarización involuntaria. 2. Prioridad Media: Fomento de la Alfabetización Epistémica y el Pensamiento Crítico. Desarrollar e integrar programas educativos a nivel social y en línea centrados en la identificación de sesgos algorítmicos, la verificación de hechos (fact-checking) y la comprensión de la dinámica de las comunidades epistémicas aisladas, con el fin de fortalecer la capacidad del público para el diálogo constructivo. 3. Prioridad Media: Mecanismos de Mitigación de Persuasión No Intencional en el Diseño de Sistemas. Diseñar herramientas de persuasión y sistemas de recomendación bajo un principio de "diseño ético por defecto", que incorpore límites a la personalización excesiva y mecanismos que requieran la validación por parte del usuario para la adopción de nuevas creencias o el refuerzo de sesgos preexistentes.