Vigilancia y Censura
La moderación de contenido se ha consolidado como una de las principales aplicaciones de los Modelos de Lenguaje Grandes (LLMs). Sin embargo, esta misma capacidad señala el riesgo inminente de que los LLMs sean instrumentalizados para la vigilancia y la censura a gran escala, históricamente empleadas por regímenes dictatoriales para sofocar voces políticas y sociales disidentes. A diferencia de las medidas de censura tradicionales, que suelen ser rudimentarias y fáciles de eludir, los LLMs tienen el potencial de habilitar operaciones de vigilancia y represión mucho más sofisticadas y masivas. Más allá del texto, la combinación de LLMs multimodales o su integración con tecnología de voz a texto expande este riesgo a otras esferas de la comunicación privada, como llamadas telefónicas y mensajes de video. Este panorama tecnológico puede contribuir colectivamente a un deterioro de las libertades personales y a una intensificación de la opresión estatal a nivel global, con casos de silenciamiento de disidentes y supresión de cuentas en redes sociales ya documentados.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit1344
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Prioridad Alta: Establecer un marco de Gobernanza de la IA riguroso que imponga un Monitoreo Continuo y Controles de Acceso para los sistemas LLM con capacidades de moderación de contenido. Es crucial implementar una Moderación Equilibrada de Contenido que proteja la libertad de expresión y evite la instrumentalización para la opresión estatal o la supresión de voces disidentes. 2. Prioridad Media: Aplicar el principio de Minimización de Datos y salvaguardas técnicas para proteger el Cifrado de Extremo a Extremo. Esto implica restringir la capacidad de los LLMs multimodales para acceder o procesar datos de comunicaciones privadas (voz, video) que no sean estrictamente necesarios, previniendo el escaneo automatizado y la vigilancia masiva a escala. 3. Prioridad Baja: Promover la Alfabetización Mediática y la Concienciación Pública. Educar a los usuarios en el pensamiento crítico y la verificación de información para aumentar la resiliencia social frente a la desinformación y mitigar el impacto de las campañas de vigilancia o censura orquestadas a través de capacidades duales de los LLMs.