Político
El referéndum del Brexit en el Reino Unido evidenció una forma incipiente de propaganda computacional. De cara al futuro, existe una seria preocupación en el campo de la seguridad de la IA: que los gobiernos autoritarios exploten la inteligencia artificial para modelar de manera sofisticada y a gran escala la opinión de sus ciudadanos.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit585
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Refuerzo de la Gobernanza Algorítmica y la Transparencia Regulatoria Implementar marcos regulatorios robustos, como la Ley de IA de la Unión Europea, que exijan la transparencia, auditabilidad y rendición de cuentas de los sistemas de inteligencia artificial de alto riesgo utilizados en la esfera pública. Esto incluye mandatar auditorías de sesgos y evaluaciones de impacto rigurosas para prevenir la explotación de estas tecnologías por parte de actores maliciosos y gobiernos autoritarios con fines de vigilancia o manipulación a gran escala. 2. Desarrollo de la Resiliencia Cognitiva y la Alfabetización Digital Establecer programas integrales de alfabetización mediática, digital y de IA a nivel curricular y comunitario, con un enfoque en el desarrollo de la resiliencia cognitiva. Estas iniciativas deben capacitar a los ciudadanos en técnicas de pensamiento crítico y métodos de "pre-bunking" para inocularlos sistemáticamente contra las tácticas de influencia y desinformación sofisticadas, neutralizando la eficacia de la propaganda computacional. 3. Inversión en Tecnologías de Detección y Atribución Fomentar la inversión en investigación y desarrollo de tecnologías de detección avanzadas, como modelos de IA multilingües y Explicables (XAI), capaces de identificar y atribuir de manera proactiva el comportamiento inauténtico coordinado, las redes de bots, y el contenido sintético malicioso ("deepfakes") a escala. La implementación de sistemas de verificación de procedencia de contenido digital (como marcas de agua) es crucial para contrarrestar la generación automatizada de falsedades.