Volver a la tabla periodica
102no-102
Sk

S-Risk

Severidad10/10

Riesgo-S

Riesgos de sufrimiento (Suffering risks) a escala astronómica y duración potencialmente eterna causados por IA desalineada que activamente crea escenarios de máximo sufrimiento.

Ficha periodicaExistencialarXiv

Estrategia de Mitigación

Priorización de prevención de peores casos absolutos, diseño de funciones de utilidad que ponderan fuertemente evitar sufrimiento extremo, y research en s-risk mitigation.

Número Atómico

102

Sk

ID del riesgo

no-102

Severidad

10/10

Nivel de Severidad

102
Riesgo Crítico
Existencial
no-102
Sk

S-Risk

Riesgo-S

RiesgosIA.org
Existencial • #102

Riesgo-S

Sk
Nivel de Severidad10/10

Definición

Riesgos de sufrimiento (Suffering risks) a escala astronómica y duración potencialmente eterna causados por IA desalineada que activamente crea escenarios de máximo sufrimiento.

Estrategia de Mitigación

Priorización de prevención de peores casos absolutos, diseño de funciones de utilidad que ponderan fuertemente evitar sufrimiento extremo, y research en s-risk mitigation.

Notas / Observaciones

1.
2.
3.
4.
5.
RiesgosIA.org • Tabla Periódica de Riesgos de IARiesgosIA.org