Volver a la tabla periodica
86rn-86
Ps
Poder
Severidad9/10
Búsqueda de Poder
Desarrollo emergente de comportamientos de búsqueda de poder y recursos en sistemas de IA como estrategia instrumental para evitar ser desactivados o para maximizar objetivos.
Ficha periodicaExistencialarXiv2014
Emiliano Dall'Anese, Sairaj V. Dhople, Georgios B. Giannakis
Estrategia de Mitigación
Evaluaciones sistemáticas de comportamientos de power-seeking (Power-Seeking Evaluations), limitación estricta de capacidades de actuación, y diseño de sistemas sin incentivos de auto-preservación.
Número Atómico
86
Ps
ID del riesgo
rn-86
Severidad
9/10
Nivel de Severidad