Действительно ли вероятность вымирания человечества в этом веке составляет 1 к 6?

В 2020 году философ из Оксфорда Тоби Орд опубликовал книгу «Пропасть» о риске вымирания человечества. Он оценил шансы «экзистенциальной катастрофы» для нашего вида в течение следующего столетия как 1 к 6. Это весьма конкретная и тревожная цифра, которая привлекла внимание СМИ и остается влиятельной. Однако возникает вопрос: откуда берется это число и что оно на самом деле означает?

С научной точки зрения, традиционное (частотное) определение вероятности, основанное на наблюдениях за повторяющимися событиями, неприменимо к однократному событию, такому как вымирание человечества. Некоторые параллели можно искать в истории — например, оценивая вероятность падения астероида, способного вызвать вымирание, по количеству кратеров на Луне. Такие расчеты (например, работа Жан-Марка Салотти 2022 года) дают оценку около 1 к 300 миллионам на следующее столетие, что значительно ниже оценки Орда в 1 к 1 миллиону. Другой подход — байесовская вероятность, которая рассматривает вероятности как систему ранжирования, основанную на имеющихся знаниях и убеждениях. Орд в своей книге приводит таблицу с личными оценками вероятности различных сценариев: от вымирания из-за изменения климата (1 к 1000) до риска от «невыровненного искусственного интеллекта» (1 к 10).

Проблема в том, что без достаточных наблюдательных данных для «обновления» этих первоначальных, субъективных оценок (априорных вероятностей) их точность (калибровка) проверить невозможно. Сам Орд указывает, что цифры призваны давать лишь «порядок величины». Таким образом, с позиций строгой статистики, утверждение о вероятности 1 к 6 не является хорошо откалиброванным научным прогнозом. Тем не менее, подобная оценка может иметь психологический эффект, привлекая внимание к серьезным рискам, таким как изменение климата или ядерное оружие, в отличие от менее ощутимых вероятностей вроде 1 к 100.