Causar daño material difundiendo información falsa o deficiente
Las predicciones erróneas o falsas generadas por un Modelo de Lenguaje (ML) poseen la capacidad de provocar daños materiales de manera indirecta. Es crucial notar que este riesgo se extiende incluso a dominios que, en principio, se perciben como poco sensibles o triviales, tales como la previsión meteorológica o la legislación de tráfico. Un ejemplo paradigmático ocurre cuando un usuario, al conducir en un país nuevo, aplica incorrectamente la normativa vial proporcionada por el modelo, lo cual podría desencadenar un accidente de tráfico y el consecuente perjuicio material (Reiter, 2020).
ENTIDAD
2 - IA
INTENCIÓN
2 - Involuntario
TIEMPO
2 - Post-despliegue
ID del riesgo
mit242
Linea de dominio
3. Desinformación
3.1 > Información falsa o engañosa
Estrategia de mitigacion
- Inversión y Refuerzo AlgorítmicoDiseñar e implementar sistemáticamente mecanismos de seguridad intrínsecos al Modelo de Lenguaje (ML), como el Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF) y la seguridad mediante el seguimiento de instrucciones, para minimizar la generación de "alucinaciones" y predicciones inexactas. Paralelamente, se debe priorizar la inversión en herramientas de inteligencia artificial para la detección algorítmica proactiva de patrones de información falsa o engañosa, reduciendo así la tasa de distribución de contenido dañino. - Contextualización y Mecanismos de TransparenciaAplicar intervenciones en el punto de consumo de la información, tales como la inclusión de etiquetas de verificación de hechos (fact-check labels) prominentes y la provisión de señales de procedencia (provenance cues) que clarifiquen el origen y el historial del contenido. Además, utilizar *prompts* que inciten al usuario a una pausa reflexiva, promoviendo el escrutinio de la veracidad antes de la interacción o la propagación del contenido. - Fomento de la Alfabetización Mediática y Pensamiento CríticoEstablecer programas educativos a gran escala dirigidos a la población para aumentar la alfabetización mediática y digital. Estos programas deben enfocarse en el desarrollo del pensamiento crítico, dotando a los usuarios de estrategias de 'inoculación' cognitiva contra las tácticas comunes de desinformación, con el fin de mejorar su capacidad autónoma para evaluar la credibilidad de las fuentes y la información recibida.
EVIDENCIA ADICIONAL
El concepto de una creencia falsa perjudicial no se limita a la información estrictamente errónea; la omisión de datos cruciales o la presentación de información sesgada o engañosa son mecanismos igualmente eficaces que pueden conducir a idénticos desenlaces.