Low AI-doom expectations coexist with support for safety work
A personal P(doom) estimate is described as “very, very low,” while extensive AI safety work—including cybersecurity-related work—is supported. The rationale is that sustained attention and incentives across the AI ecosystem could help identify and address catastrophic risks.
The same view warns that safety language may be co-opted by parties with different goals, creating a narrow line between funding safety and alignment research and generating political pressure to stop new data centers from being built. The AI policy debate is expected to remain messy for the coming years and become a dominant subject of the 2028 presidential election, with jobs, GDP and safety at issue. Conflicting industry positions are illustrated by support for both an open-weights initiative and a pacing letter.
Низкая оценка вероятности катастрофы от ИИ сочетается с поддержкой работы по безопасности
Личная оценка P(doom) описывается как «очень, очень низкая», при этом поддерживается масштабная работа по безопасности ИИ, включая направления, связанные с кибербезопасностью. Обоснование состоит в том, что постоянное внимание к безопасности и стимулы внутри экосистемы ИИ могут помочь выявлять и устранять катастрофические риски.
Одновременно высказывается предупреждение, что риторика безопасности может быть присвоена сторонами с другими целями, создав узкую грань между финансированием исследований безопасности и выравнивания и политическим давлением с требованием прекратить строительство новых дата-центров. Ожидается, что дискуссия об ИИ-политике в ближайшие годы останется хаотичной и станет одной из главных тем президентских выборов 2028 года — в связи с рабочими местами, ВВП и безопасностью. Противоречивые позиции отрасли иллюстрируются одновременной поддержкой инициативы об открытых весах и письма о замедлении разработки.