Mal uso políticamente motivado
El riesgo político inherente a los modelos de IA de propósito general se articula en la amplificación de tácticas preexistentes de desestabilización. Específicamente, estos modelos pueden sofisticar drásticamente las campañas de desinformación gracias a sus avances en la generación automatizada de texto y contenido multimedia. Esta capacidad permite refinar los esfuerzos para polarizar la opinión pública e influir en eventos políticos cruciales. Además, su potencia para el procesamiento automatizado de grandes volúmenes de texto, audio, imagen y video constituye una herramienta formidable para la vigilancia masiva, lo cual, si es mal utilizado con fines políticos, tiene el potencial de exacerbar violaciones de derechos humanos y la represión sistemática de la oposición.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit751
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Establecer marcos de gobernanza y regulación vinculantes Desarrollar e implementar normativas integrales, enmarcadas en el derecho internacional de los derechos humanos, que prohíban explícitamente el uso de modelos de IA para vigilancia masiva discriminatoria, represión política y la amplificación sistemática de campañas de desinformación, asegurando la trazabilidad y la rendición de cuentas (Accountability) de los actores responsables. 2. Integrar salvaguardas técnicas y de seguridad por diseño Incorporar mecanismos robustos de detección y prevención de contenidos sintéticos maliciosos (deepfakes) en los modelos de IA generativa, como el *watermarking* o la autenticación de origen, para mitigar la difusión de desinformación a escala. Esto debe complementarse con la aplicación de controles de acceso y autenticación estrictos, así como políticas de protección de datos avanzadas, para limitar el riesgo de su uso en medidas de vigilancia intrusivas. 3. Fomentar la colaboración intersectorial y la alfabetización cívica Promover la cooperación activa entre entidades gubernamentales, desarrolladores de IA y organizaciones de la sociedad civil para compartir inteligencia sobre las tácticas de mal uso político. Concomitantemente, es crucial invertir en programas educativos de alfabetización mediática y pensamiento crítico para fortalecer la resiliencia del público ante la manipulación y la propaganda política generada por IA.