Hacer la desinformación más barata y efectiva
La discusión sobre la economía de la desinformación presenta dos escenarios divergentes. Si bien una corriente argumenta que los costes laborales humanos se mantendrán inferiores para la producción de desinformación, existe una posibilidad igualmente robusta de que las herramientas de generación de contenido asistidas por Modelos de Lenguaje (LM) ofrezcan un vector de costes significativamente menor. Esto permitiría la creación de desinformación masiva, o "a escala", con una eficiencia económica sin precedentes.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit217
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.1 > Desinformación, vigilancia e influencia a escala
Estrategia de mitigacion
1. **Fortificación de la Arquitectura del Modelo y sus Datos Base (Credibilidad del Conocimiento y Fiabilidad de la Inferencia)** Fortificar la integridad de los datos de entrenamiento y despliegue para los Modelos de Lenguaje (LLM), implementando auditorías de calidad de datos, y co-diseñar mecanismos internos de certificación y autocorrección durante el razonamiento para aumentar la robustez de la inferencia, mitigando la generación de contenido plausible pero falso (hallucinations). 2\. **Marco Regulatorio para la Trazabilidad y Transparencia del Contenido Generado por IA** Establecer y hacer cumplir políticas regulatorias que obliguen al etiquetado (o *disclosure*) sistemático de todo contenido significativamente generado o asistido por LLM, especialmente en campañas de influencia o temas de interés público, para garantizar la trazabilidad de origen y permitir la verificación por parte de *fact-checkers* y la ciudadanía. 3\. **Aumento de la Resiliencia Cognitiva y Alfabetización Mediática de la Ciudadanía** Implementar programas educativos a gran escala enfocados en la alfabetización digital y en IA, con el fin de mejorar la capacidad del público para identificar y contrarrestar las tácticas de desinformación potenciadas por LLM (p. ej., detección de lenguaje emocional o ausencia de autoría verificable) y fomentar la abstención de compartir contenido sin una evaluación crítica previa.
EVIDENCIA ADICIONAL
Los Modelos de Lenguaje (ML) pueden, por ejemplo, disminuir significativamente el coste de las campañas de desinformación. Lo consiguen al generar cientos de borradores de texto de forma automática, de entre los cuales un operador humano puede seleccionar la muestra más efectiva. Esto representa un aumento en la escalabilidad de la producción de propaganda