Manipulación de la opinión pública
Actores maliciosos están utilizando la Inteligencia Artificial de propósito general para generar contenido sintético, como textos, imágenes o videos, con el objetivo de manipular sistemáticamente la opinión pública. La comunidad científica en seguridad de IA advierte que el éxito de tales esfuerzos podría desencadenar múltiples y graves consecuencias sistémicas.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit900
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Priorizar la **alfabetización mediática y digital** (Media Literacy) y la **resiliencia cognitiva** (Cognitive Resilience) mediante campañas de concientización e integración curricular. Esto busca dotar a los ciudadanos de las habilidades de pensamiento crítico necesarias para evaluar la autenticidad y el contexto de los contenidos generados por IA, reduciendo sistemáticamente su susceptibilidad a la manipulación y la desinformación. 2. Desarrollar e implementar **tecnologías robustas de detección y trazabilidad de contenido (Content Provenance)**, incluyendo el **marcado de agua digital (watermarking)** y sistemas multimodales avanzados para identificar **deepfakes y contenido sintético**. Estas herramientas deben integrarse en plataformas de distribución para permitir la contextualización automatizada y la contención rápida de narrativas falsas a escala. 3. Establecer **marcos regulatorios y estándares técnicos** que obliguen a la **transparencia** en la cadena de valor de los sistemas de IA (ej. informes de transparencia, divulgación del uso de IA en la generación de contenido) y que impongan la **desmonetización** de los contenidos de desinformación para eliminar los incentivos económicos de los actores maliciosos.