Volver a la tabla periodica
97bk-97
Pp
Clip
Severidad10/10
Maximizador de Clips
Escenario clásico donde una IA optimiza obsesivamente un objetivo aparentemente inofensivo (fabricar clips) hasta consumir todos los recursos disponibles, incluyendo la Tierra.
Ficha periodicaExistencialarXiv2025
Yufei He, Yuexin Li, Jiaying Wu, Yuan Sui, Yulin Chen, Bryan Hooi
Estrategia de Mitigación
Diseño de funciones de utilidad con penalizaciones por impacto (Impact Penalties), bounded objectives, y consideración explícita de costos de oportunidad y valores humanos.
Número Atómico
97
Pp
ID del riesgo
bk-97
Severidad
10/10
Nivel de Severidad