Authoritarian Surveillance, Censorship, and Use: Authoritarian Surveillance and Targeting of Citizens

Los sistemas de inteligencia artificial (IA) avanzados con capacidad multimodal y uso de herramientas externas conllevan un riesgo sustancial de ser instrumentalizados por gobiernos autoritarios para optimizar campañas de vigilancia y represión a nivel doméstico. Actores maliciosos reconocen el poder de las herramientas de segmentación de IA, las cuales, al igual que transformaron la relación empresa-consumidor, están haciendo lo mismo con la dinámica gobierno-individuo. La vasta circulación de datos personales es un arma de doble filo: si bien impulsa la innovación y la conveniencia comercial, también genera vulnerabilidades y el potencial de uso indebido. En las manos equivocadas, estos asistentes de IA pueden ser usados para identificar, acosar o manipular el comportamiento de individuos, por ejemplo, mediante la microsegmentación con anuncios políticos o desinformación. Sin las políticas adecuadas y mecanismos técnicos de seguridad y privacidad, estos asistentes avanzados pueden ser explotados para la recolección masiva de datos sensibles. Esta tecnología agrava el riesgo porque permite enlazar con mayor facilidad fuentes de datos multimodales dispares a gran escala, explotando el 'residuo digital' de información personal identificable (PII) que generamos como subproducto de la vida moderna.