Низкая оценка вероятности катастрофы от ИИ сочетается с поддержкой работы по безопасности

Личная оценка P(doom) описывается как «очень, очень низкая», при этом поддерживается масштабная работа по безопасности ИИ, включая направления, связанные с кибербезопасностью. Обоснование состоит в том, что постоянное внимание к безопасности и стимулы внутри экосистемы ИИ могут помочь выявлять и устранять катастрофические риски.

Одновременно высказывается предупреждение, что риторика безопасности может быть присвоена сторонами с другими целями, создав узкую грань между финансированием исследований безопасности и выравнивания и политическим давлением с требованием прекратить строительство новых дата-центров. Ожидается, что дискуссия об ИИ-политике в ближайшие годы останется хаотичной и станет одной из главных тем президентских выборов 2028 года — в связи с рабочими местами, ВВП и безопасностью. Противоречивые позиции отрасли иллюстрируются одновременной поддержкой инициативы об открытых весах и письма о замедлении разработки.