Impulso de manipulación de opinión
Los asistentes de Inteligencia Artificial IA representan un vector de riesgo significativo al poder catalizar campañas masivas de desinformación. Estos sistemas ofrecen a los actores de propaganda herramientas novedosas y encubiertas para la manipulación sofisticada de la opinión pública. El efecto directo es una distorsión crítica de la percepción colectiva, lo cual tiene el potencial de erosionar los cimientos del proceso democrático. En sus escenarios más adversos, esta dinámica podría desembocar en un aumento marcado del escepticismo institucional y en la escalada de la violencia política.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit404
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Establecer marcos normativos y técnicos que exijan la trazabilidad, autenticación y el etiquetado obligatorio de todo el contenido generado o manipulado por sistemas de IA (medios sintéticos), con el fin de restaurar la confianza pública y proporcionar herramientas de verificación de la procedencia. 2. Desplegar contramedidas tecnológicas basadas en IA para la detección y mitigación de la desinformación a escala, lo que incluye el análisis automatizado de patrones lingüísticos, la identificación de redes de amplificación coordinada (ej. bots) y el apoyo a la moderación proactiva de contenidos en plataformas digitales. 3. Promover programas de alfabetización mediática y digital a nivel social para fortalecer la capacidad de la ciudadanía en el ejercicio del pensamiento crítico, permitiéndoles evaluar la autenticidad, sesgos y veracidad de la información antes de su consumo o diseminación.