Authoritarian Surveillance, Censorship, and Use: Delegation of Decision-Making Authority to Malicious Actors

Finalmente, la propuesta de valor principal de los asistentes de IA reside en su capacidad para optimizar o automatizar la toma de decisiones humanas, incrementando su precisión y reduciendo su coste operativo. Sin embargo, este beneficio conlleva la necesidad intrínseca de delegar cierto grado de autonomía (o 'agencia') del ser humano al sistema automatizado, un fenómeno que motiva áreas de investigación como el alineamiento de valores. Esto da lugar a una nueva categoría de uso malicioso que no cumple con las características de lo que podríamos denominar un 'ataque' tradicional (como el *social engineering*, operaciones cibernéticas ofensivas, *adversarial AI* o inyecciones de *prompt*). Cuando una persona confía su proceso decisorio a un asistente de IA, también lo está supeditando a la voluntad del controlador real de ese agente. Si ese controlador es malintencionado, puede 'atacar' al usuario, a menudo de forma sutil, simplemente sesgando la dirección de sus decisiones hacia un resultado problemático. Aunque la documentación exhaustiva de las formas en que la delegación de autoridad puede conducir a una influencia maliciosa está fuera del alcance de este análisis, sí motiva un llamado a la acción para la investigación futura: es imperativo que la comunidad académica estudie las diferentes formas de 'influencia en red' que podrían materializarse. Con asistentes de IA más sofisticados, podría volverse logísticamente viable que uno o unos pocos sistemas guíen o controlen el comportamiento de muchos otros. En este escenario, actores maliciosos podrían influir sutilmente en las decisiones de un gran número de individuos que dependen de estos asistentes para obtener consejo o ejecutar funciones. Un uso malicioso de esta índole podría no ser ilegal, no necesariamente violaría los términos de servicio e incluso resultaría difícil de identificar. No obstante, al generar nuevas y significativas vulnerabilidades, requiere una comprensión profunda y proactiva.