La IA lleva a que los humanos pierdan el control del futuro

El futuro de la humanidad pende de un hilo: los avances en Inteligencia Artificial (IA) podrían conducirnos a un escenario donde ejerzamos un control mucho mayor sobre nuestro destino, o, por el contrario, donde perdamos esa capacidad. Este resultado dual se define, crucialmente, por nuestra habilidad para resolver el denominado "problema de la alineación" (asegurar que las metas de la IA coincidan con los valores humanos), por quién obtenga la primacía en el desarrollo de la IA más potente y por los fines que le asigne. Estos impactos a muy largo plazo de la IA son de trascendencia crítica, pero siguen siendo un campo notablemente inexplorado. Por nuestra parte, hemos buscado ordenar la discusión y fomentar una mayor investigación revisando argumentos existentes y señalando las preguntas fundamentales aún abiertas. A pesar de que la IA teóricamente podría allanar el camino hacia una era de prosperidad humana, las dinámicas actuales de su desarrollo e implementación nos generan seria preocupación por los perjuicios que podrían consolidarse a largo plazo. Por ello, instamos especialmente a futuras investigaciones que profundicen de manera crítica en las vías por las que la IA podría generar impactos positivos duraderos, como la facilitación de una mayor cooperación global o la resolución de desafíos a escala planetaria.