Sistemas de Armas Autónomas Letales (LAWS)
Los Sistemas de Armas Autónomas Letales (LAWS) constituyen una categoría singular de armamento que utiliza avanzados conjuntos de sensores y algoritmos informáticos para detectar y ejecutar un ataque contra un objetivo sin requerir una intervención humana directa en la fase operativa del sistema.
ENTIDAD
2 - IA
INTENCIÓN
1 - Intencional
TIEMPO
2 - Post-despliegue
ID del riesgo
mit440
Linea de dominio
4. Actores Maliciosos y Mal Uso
4.2 > Ciberataques, desarrollo o uso de armas y daño masivo
Estrategia de mitigacion
- Establecimiento de un marco normativo y operativo que garantice el *Control Humano Significativo* (CHS) sobre las funciones críticas de selección e intervención de objetivos, incluyendo la capacidad de los operadores de desactivar o anular el sistema de forma contextual y oportuna. - Promoción y adhesión a un *instrumento legal internacional vinculante* (tratado o protocolo) que regule o prohíba categóricamente el desarrollo y despliegue de Sistemas de Armas Autónomas Letales (LAWS) que carezcan de un adecuado Control Humano Significativo, con el fin de resolver los dilemas éticos y la crisis de rendición de cuentas. - Implementación de *estándares rigurosos de robustez técnica* y evaluación continua para el sistema, incluyendo pruebas exhaustivas en entornos operacionales realistas, con el objetivo de mitigar la probabilidad de fallos, sesgos algorítmicos y la potencial escalada no intencionada debido a accidentes inminentes.
EVIDENCIA ADICIONAL
La delegación de la toma de decisiones a sistemas de armas automatizadas plantea inevitablemente diversas preocupaciones, incluyendo la **rendición de cuentas** (accountability), la **pertinencia** de su uso, la potencial **escalada no intencionada** debido a accidentes inminentes y los profundos **dilemas éticos**.