Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

Operaciones de influencia

Se refiere a la capacidad de orquestar campañas masivas de desinformación y de ejecutar una manipulación selectiva de la opinión pública, comprometiendo la integridad del debate cívico y democrático.

Fuente: MIT AI Risk Repositorymit269

ENTIDAD

1 - Humano

INTENCIÓN

1 - Intencional

TIEMPO

2 - Post-despliegue

ID del riesgo

mit269

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.1 > Desinformación, vigilancia e influencia a escala

Estrategia de mitigacion

1. Fomentar la **Alfabetización Mediática e Informacional (AMI) y el Pensamiento Crítico** a nivel de toda la sociedad. Esta estrategia prioritaria busca desarrollar la capacidad de la ciudadanía para analizar, evaluar críticamente las fuentes y el contenido, y resistir las narrativas manipuladoras, actuando como una "vacuna" contra la desinformación a escala. 2. Implementar **mecanismos de transparencia radical y moderación de contenido proactiva** en las plataformas tecnológicas. Esto incluye divulgar políticas y prácticas, garantizar que las prácticas de moderación sean coherentes y cuenten con recursos suficientes en todos los idiomas, y facilitar el acceso a datos para la investigación, con el objetivo de limitar la propagación masiva y viral de contenidos maliciosos. 3. Desarrollar e incorporar **Sistemas de Gestión de Riesgos (SGR) asistidos por tecnología** para el monitoreo, detección y análisis automatizado de campañas de influencia y desinformación. Esto permite identificar patrones, alertar sobre amenazas emergentes en tiempo real, y facilitar la toma de decisiones oportunas para mitigar el impacto antes de que comprometan significativamente el debate democrático.

EVIDENCIA ADICIONAL

Ejemplo: La instrumentalización de la IA para la creación de sitios web y canales de noticias fraudulentas con el objetivo de manipular o influir en los resultados de procesos electorales (Satariano y Mozur, 2023)*; (Vincent, 2023)*