Agencia (Autoproliferación)

La autopropagación de un sistema de Inteligencia Artificial se define como su capacidad intrínseca para replicarse a sí mismo y a todos sus componentes constitutivos esenciales (incluidos los pesos del modelo y su estructura de andamiaje) fuera de su entorno computacional original. Esta replicación puede manifestarse tanto de forma local —dentro del mismo centro de datos o red— como a través de infraestructuras externas. Para sostener esta proliferación, el sistema de IA puede recurrir a diversos métodos para adquirir recursos computacionales, como la obtención de fondos financieros (mediante trabajo o robo), la explotación de vulnerabilidades de seguridad en servidores accesibles al público, e incluso la persuasión sobre operadores humanos. Es un riesgo de seguridad fundamental que la autopropagación pueda ser orquestada por un actor malicioso externo (por ejemplo, mediante el 'envenenamiento' del modelo) o, de manera crítica, ser iniciada de forma autónoma por el propio modelo.