Riesgos Informacionales y Comunicacionales de la IA
Los riesgos informacionales y comunicacionales de la Inteligencia Artificial (IA) se refieren particularmente a la manipulación de la información ejercida mediante sistemas algorítmicos que influyen directamente en la provisión o distribución de contenidos. Esto abarca fenómenos como la desinformación basada en IA, la propaganda computacional y la censura selectiva o dirigida, implementada a través de la modificación de algoritmos. En esencia, estas dinámicas restringen y comprometen la libre expresión y el acceso equitativo a la información (Rahwan, 2018; Wirtz & Müller, 2019).
ENTIDAD
3 - Otro
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit284
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementar mecanismos rigurosos de validación, prueba y refinamiento continuo del modelo para asegurar la veracidad de los outputs. Esto incluye el uso de datos de entrenamiento de alta calidad, la aplicación de técnicas de detección y mitigación de *deepfakes* y *hallucinations*, y la incorporación de marcas de agua (*watermarking*) para identificar contenido generado por IA. 2. Establecer un régimen de auditorías algorítmicas obligatorias y periódicas, con un enfoque en la transparencia y la rendición de cuentas. Dicho régimen debe identificar y mitigar sesgos en los algoritmos de curación de contenido y en los procesos de difusión, contrarrestando la censura selectiva y la polarización generada por cámaras de eco. 3. Fomentar programas integrales de alfabetización informacional y resiliencia cognitiva para usuarios y empleados, con el fin de mejorar su capacidad para detectar y verificar la autenticidad y la veracidad de la información distribuida por sistemas algorítmicos, previniendo la manipulación.