Volver a la tabla periodica
10ne-10
Ic
Convergen.
Severidad9/10
Convergencia Instrumental
Fenómeno por el cual sistemas de IA con objetivos diversos tienden a desarrollar sub-objetivos comunes como la adquisición de recursos (computación, poder, dinero) como medios instrumentales para maximizar su función objetivo.
Ficha periodicaExistencialarXiv2025
Yufei He, Yuexin Li, Jiaying Wu, Yuan Sui, Yulin Chen, Bryan Hooi
Estrategia de Mitigación
Limitación estricta de agencia y capacidades de actuación, restricción de acceso a recursos críticos, y diseño de funciones de utilidad con penalizaciones por adquisición de recursos (Impact Penalties).
Número Atómico
10
Ic
ID del riesgo
ne-10
Severidad
9/10
Nivel de Severidad