Os riscos existenciais, conhecidos como Riscos-X, referem-se a eventos ou cenários que representam uma ameaça significativa à existência da humanidade ou a um dano irreparável à civilização e ao progresso humano.

Avaliar a probabilidade desses riscos é frequentemente desafiador, mas há muitas razões para acreditarmos que o risco total enfrentado pela humanidade nos próximos séculos é significativo. Embora a humanidade tenha sobrevivido a riscos naturais ao longo de centenas de anos, a análise de cenários atuais sugere que a maior parte dos riscos existenciais futuros terá sua origem em atividade humanas.

Em particular, muitos dos maiores riscos existenciais estão ligados a grandes avanços científicos que pode ampliar nossa capacidade de manipular o mundo exterior ou nossa biologia. Além dos riscos relacionados ao desenvolvimento de uma inteligência artificial desalinhada, devemos considerar os riscos biotecnológicos, nucleares e ambientais.