Анализ в области безопасности ИИ разделяет угрозы на уровне моделей и риски приложений

В анализе утверждается, что дискуссии о безопасности ИИ часто смешивают несколько разных проблем, включая климатические последствия работы дата-центров, биологическое оружие, а также угодливость моделей и её возможное влияние на психическое здоровье людей. В нём риски на уровне моделей отделяются от рисков, возникающих там, где люди взаимодействуют с развернутыми ИИ-приложениями.

В анализе говорится, что рискам на уровне приложений может уделяться недостаточно внимания со стороны передовых ИИ-лабораторий, хотя продуктами компаний из списка Fortune 100 пользуются миллионы людей, а воздействие может быть ещё шире. Также высказывается мнение, что настроения «думеров» сосредоточены на уровне моделей, поскольку именно там, как предполагается, возникнут AGI и сверхинтеллект.