В дебатах о рисках ИИ роботов отделяют от моделей с автономными целями

В анализе различаются риски массового применения роботов на моделях нынешнего поколения и риски будущих систем, обладающих собственными целями или волей. Согласно этой оценке, роботы с интеллектом уровня GPT-6 при наличии многолетней работы по выравниванию не являются главным источником опасности; более серьезная неопределенность связана с тем, когда и каким образом модель может начать действовать самостоятельно, а не следовать инструкциям.

Также отмечается, что команда робототехники OpenAI работает над подключением Astra к роботу, кисти и камере, однако сама эта возможность, как утверждается, пока не представляет значительного риска. Clem из Hugging Face выступил за учет широкого спектра экспертных мнений при оценке риска вымирания из-за ИИ, а Nathan Lambert возразил, что даже узкопрофильный специалист может оказаться прав.