Mal Uso
Dentro de la taxonomía de riesgos de la inteligencia artificial, la clase de "uso indebido" se centra en el potencial de esta tecnología para amplificar amenazas ya existentes. Específicamente, abarca la capacidad de los actores de amenazas cibernéticas para automatizar y ejecutar ciberataques con una velocidad e impacto considerablemente mayores, así como para generar y distribuir desinformación de alta calidad —como el contenido *deep fake*— a un ritmo y con una efectividad acelerados.
ENTIDAD
1 - Humano
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit98
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.0 > Uso malicioso
Estrategia de mitigacion
1. Implementación de Mecanismos de Detección Basados en IA y Defensa en Capas. Establecer soluciones de ciberseguridad avanzadas que empleen algoritmos de Inteligencia Artificial para la detección proactiva de *deepfakes* y medios sintéticos, complementado con la incorporación de herramientas de análisis de amenazas para identificar *malware* polimórfico y anomalías, garantizando una arquitectura de defensa integral contra ataques amplificados por la tecnología. 2. Fortalecimiento de Controles Procedimentales y Concienciación Crítica. Instaurar protocolos de verificación rigurosos para transacciones y accesos sensibles, exigiendo la doble autorización, la autenticación multifactorial (MFA) y la verificación cruzada mediante canales alternativos. Paralelamente, desarrollar programas de capacitación continua para empleados enfocados en el reconocimiento de indicadores de manipulación mediática y tácticas de ingeniería social potenciadas por IA. 3. Elaboración e Integración de Planes de Respuesta a Incidentes. Desarrollar e institucionalizar planes de respuesta a incidentes que definan con precisión los pasos a seguir ante ataques específicos de *deepfake* y ciberataques de alta velocidad. Estos planes deben cubrir procedimientos de reporte, contención, análisis forense digital y comunicación estratégica para minimizar el impacto operacional y reputacional.