Manipulación de la Sociedad
La alteración sistemática de las interacciones y el comportamiento colectivo
ENTIDAD
2 - IA
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit438
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. Implementar defensas técnicas en capas directamente en el flujo de Integración Continua/Entrega Continua (CI/CD), abarcando validación estricta de entradas, pruebas adversarias, y monitoreo continuo del comportamiento en tiempo de ejecución para detectar y mitigar intentos maliciosos de manipular las salidas del modelo o inyectar contenido perjudicial. 2. Establecer y aplicar requisitos rigurosos de transparencia algorítmica y mecanismos de supervisión humana, asegurando que se divulgue a los usuarios el propósito del sistema de IA y el uso de sus datos, y que existan marcos claros de rendición de cuentas (accountability) para evaluar y corregir el sesgo o la manipulación algorítmica. 3. Desarrollar e implementar un marco regulatorio global y coordinado, junto con programas integrales de educación pública, para elevar la conciencia sobre las amenazas impulsadas por la IA (como la desinformación y los deepfakes) y fomentar la competencia digital en la sociedad para construir resiliencia contra la decepción y la influencia.
EVIDENCIA ADICIONAL
Se han planteado serias objeciones contra las plataformas de redes sociales por el uso de algoritmos que dirigen el contenido en los feeds de los usuarios, supuestamente para promover intereses políticos o comerciales específicos. Si bien la intención de los algoritmos de búsqueda personalizada es optimizar la experiencia del usuario ofreciendo resultados que se alineen con sus preferencias y buscando mayor eficiencia, también han sido objeto de fuertes críticas. Estas críticas se centran en su potencial para reforzar sesgos preexistentes, disminuir la diversidad informativa y, fundamentalmente, fomentar las denominadas "burbujas de filtro".