La IA contribuye al aumento de la polarización en línea
El uso comercial más significativo de la IA se centra en los algoritmos de recomendación de las redes sociales. Ya se advierte que esta aplicación contribuye a una exacerbación de la polarización en el entorno digital, un fenómeno de creciente estudio en la sociología algorítmica
ENTIDAD
1 - Humano
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit790
Linea de dominio
3. Desinformación
3.2 > Contaminación del ecosistema de información y pérdida de la realidad consensuada
Estrategia de mitigacion
1. Implementar modificaciones algorítmicas estructurales para desincentivar la distribución de contenido divisivo y de alta animosidad. Esto incluye rediseñar los sistemas de recomendación para que activamente degraden las publicaciones con lenguaje antidemocrático o polarizado, priorizando en su lugar las interacciones productivas, constructivas y el fomento de la deliberación cívica, en lugar de maximizar el *engagement* a ultranza. 2. Aumentar la transparencia algorítmica y el control del usuario sobre sus flujos de información. Esto implica proporcionar herramientas que permitan a los usuarios percibir y mitigar los sesgos de recomendación, posibilitando ajustes en la diversidad de contenido y la exposición a fuentes contrapuestas, o la aplicación de sistemas externos (*third-party*) para reordenar las noticias en el *feed*. 3. Integrar intervenciones psicológicas y cognitivas asistidas por IA para fomentar la resistencia individual a la polarización afectiva. Estas intervenciones pueden incluir *nudges* (empujones) que promuevan la reflexión sobre la base emocional y de identidad de las opiniones, o sistemas de advertencia que alerten a los usuarios sobre contenido con potencial polarizante, disociando así la exposición del consecuente aumento de la animosidad partidista.