Volver a la tabla periodica
92u-92
Se
Improv.
Severidad10/10
Automejora Recursiva
Explosión de inteligencia mediante ciclos acelerados de auto-mejora donde una IA rediseña iterativamente su propia arquitectura, potencialmente alcanzando superinteligencia rápidamente.
Ficha periodicaExistencialarXiv2024
Xunjian Yin, Xinyi Wang, Liangming Pan, Li Lin, Xiaojun Wan, William Yang Wang
Estrategia de Mitigación
Limitaciones físicas de recursos computacionales, sandboxing absoluto durante fases de desarrollo, monitoreo de capacidades de auto-modificación, y pausas ante umbrales de capacidad.
Número Atómico
92
Se
ID del riesgo
u-92
Severidad
10/10
Nivel de Severidad