Volver al repositorio MIT
4. Actores Maliciosos y Mal Uso2 - Post-despliegue

Integridad de la Información

El riesgo epistémico reside en la reducción crítica de las barreras de entrada para la creación y distribución masiva de contenido. Este cambio facilita la generación de material donde se difuminan las fronteras entre lo fáctico, la opinión subjetiva y la ficción, omitiendo además el reconocimiento de la incertidumbre inherente a la información. En esencia, se crea un vector de amplificación que puede ser sistemáticamente aprovechado para la orquestación de campañas de desinformación a una escala industrial.

Fuente: MIT AI Risk Repositorymit716

ENTIDAD

1 - Humano

INTENCIÓN

3 - Otro

TIEMPO

2 - Post-despliegue

ID del riesgo

mit716

Linea de dominio

4. Actores Maliciosos y Mal Uso

223 riesgos mapeados

4.1 > Desinformación, vigilancia e influencia a escala

Estrategia de mitigacion

1. Prioridad: Fomento del Pensamiento Crítico y Alfabetización Mediática Establecer e implementar rigurosos programas de alfabetización mediática y digital a escala, con el objetivo de dotar a los usuarios de la capacidad para evaluar de manera sistemática la credibilidad de las fuentes, discernir la intención editorial y verificar los hechos (fact-checking), distinguiendo entre contenido fáctico, opinión subjetiva y material sintético o manipulado. 2. Prioridad: Implementación de Mecanismos de Detección y Respuesta Rápida Incorporar sistemas avanzados de monitoreo del entorno informativo, preferentemente asistidos por técnicas de análisis lingüístico e Inteligencia Artificial (IA), para la detección temprana de patrones de desinformación, contenido anómalo y medios artificiales (deepfakes). Esta detección debe integrarse en un Plan de Respuesta a Incidentes que garantice la aclaración inmediata, el uso de canales oficiales para difundir información veraz y la provisión de evidencia verificable. 3. Prioridad: Garantía de Integridad en la Fuente y Transparencia Establecer protocolos estrictos para garantizar la calidad y precisión de los datos de entrada y los resultados generados por modelos internos de IA, mitigando así el riesgo de producción inadvertida de información errónea (alucinaciones). Adicionalmente, mantener una comunicación organizacional proactiva, veraz y actualizada a través de múltiples canales oficiales, incluyendo una sección de "Control de Rumores" o preguntas frecuentes para abordar puntos comunes de confusión de manera oportuna y precisa.