AI safety skeptics seek concrete, falsifiable catastrophe scenarios
AI safety skeptics are described as seeking detailed stories that show how a harmful outcome could unfold, rather than relying only on broad catastrophe probabilities such as 5%, 10% or 20%. The analysis argues that a chain of events is easier to assess and individually falsify than an abstract probability claim.
The deepfake-driven conflict scenario associated with *Mountainhead* is cited as an example: people could believe that conflicts were occurring, potentially triggering real wars. The specific scenario is not presented as especially alarming, but as a narrative that could make the issue more engaging and testable. Job loss is also mentioned as an area where concrete storytelling may help.
Скептики в области безопасности ИИ требуют конкретных и проверяемых сценариев катастроф
Скептики в области безопасности ИИ, как отмечается в анализе, хотят видеть подробные истории о том, как может разворачиваться негативный сценарий, а не только общие оценки вероятности катастрофы — например, 5%, 10% или 20%. Цепочку событий легче оценивать и проверять по отдельным элементам, чем абстрактное вероятностное утверждение.
В качестве примера приводится связанный с фильмом *Mountainhead* сценарий конфликта, вызванного дипфейками: люди могут поверить, что происходят реальные столкновения, что потенциально способно спровоцировать настоящие войны. Сам этот сценарий не представлен как особенно тревожный, но рассматривается как история, которая может сделать тему более понятной и проверяемой. Потеря рабочих мест также названа сферой, где полезно более конкретное изложение.