AI 2040 предлагает отложить AGI до 2035 года, а суперразум — до 2040 года

План AI 2040 предполагает не остановку, а замедление развития ИИ и постепенное масштабирование до уровня лучших экспертов-людей примерно к 2040 году. В нем предлагается отложить достижение AGI, которое иногда прогнозируют на 2027–2029 годы, до 2035 года, а затем подождать еще около пяти лет до появления суперразума.

План описывается как первоначальный и способный измениться в течение следующего десятилетия. При жестком международном контроле часть разработок ИИ теоретически может перейти в секретную государственную программу по образцу Манхэттенского проекта, поскольку не предполагается, что страны добровольно замедлятся.

Сторонники такого подхода считают его конкретным путем к снижению экзистенциального риска. Критики могут воспринять подобный контроль над использованием компьютеров как авторитарный или антилибертарианский.