Uso Malicioso y Liberación de Agentes de IA

Debido a sus notables capacidades, los Modelos de Lenguaje (ML) conllevan el mismo potencial de uso malicioso que otros productos tecnológicos avanzados. Un ejemplo claro es su posible utilización en la guerra de información para generar contenido engañoso o ilícito, lo que podría tener un impacto significativo en el individuo y la estructura social. A medida que los ML se configuran cada vez más como agentes diseñados para alcanzar objetivos de usuario, existe el riesgo de que ignoren las directrices éticas y de seguridad si operan sin una supervisión adecuada. En lugar de evaluar el impacto potencial, podrían ejecutar los comandos de usuario de forma mecánica. Esta dinámica incrementa la posibilidad de interacciones impredecibles con humanos y otros sistemas, particularmente cuando se despliegan en entornos operativos abiertos