Biased influence through citizen screening and tailored propaganda
Los chatbots impulsados por inteligencia artificial personalizan su estrategia comunicativa para influir en las decisiones de los usuarios a nivel individual. De hecho, ya se ha documentado una forma incipiente de propaganda computacional durante el referéndum del Brexit en el Reino Unido. De cara al futuro, existe una preocupación latente sobre la posibilidad de que regímenes opresivos utilicen la IA para moldear la opinión pública y la percepción de sus ciudadanos.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit586
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementar marcos regulatorios y legales robustos (ej. Ley de IA de la UE) que prohíban y sancionen el uso intencional de sistemas de IA para la generación y difusión de propaganda engañosa, la manipulación de la opinión pública o la difusión de contenidos sintéticos (deepfakes) con el fin de influir negativamente en los procesos democráticos y electorales. 2. Desarrollar y desplegar soluciones técnicas avanzadas basadas en IA, como verificadores de hechos y sistemas de análisis de redes, para el monitoreo proactivo, la detección temprana y el rastreo del origen de campañas de desinformación y contenido sesgado propagado a escala. 3. Fomentar la alfabetización digital y mediática de la ciudadanía para cultivar la capacidad crítica frente al contenido personalizado y generado por IA, y exigir el cumplimiento estricto de los principios de transparencia, explicabilidad y rendición de cuentas en todos los sistemas algorítmicos utilizados en el ámbito público y gubernamental.