Manipulación
El caso más notorio es el escándalo de Cambridge Analytica de 2016. En dicho incidente, se extrajeron datos personales de la plataforma Facebook para generar análisis detallados, cuyo objetivo era segmentar y exponer a individuos específicos a contenido político de naturaleza manipuladora. Si bien la tecnología empleada en ese momento no constituía una Inteligencia Artificial en el sentido estricto, su metodología se fundamentó en el procesamiento de grandes volúmenes de datos similar al que alimenta a la IA. Resulta evidente, por lo tanto, cómo la integración de sistemas de IA sofisticados potenciaría drásticamente la eficacia y la escala de este tipo de campañas de influencia sociopolítica.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit93
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Establecer y aplicar un marco regulatorio de alcance supranacional que imponga restricciones severas al microtargeting político y que exija una transparencia rigurosa en el uso de los datos personales, acompañado de un régimen de sanciones disuasivas por la transferencia o uso indebido de dicha información. 2. Implementar por parte de los operadores de plataformas medidas de gobernanza de datos y controles técnicos avanzados (e.g., protocolos de auditoría continua y arquitectura de menor privilegio) para prevenir la extracción masiva de perfiles de usuario por aplicaciones de terceros, garantizando que el consentimiento sea informado, específico y revocable. 3. Promover la inversión pública en programas educativos de alfabetización mediática y pensamiento crítico, con el objetivo de fomentar en la ciudadanía la capacidad analítica necesaria para discernir las tácticas de desinformación, evaluar la credibilidad de las fuentes y resistir los intentos de manipulación a escala.