AI risk debate separates today’s robots from models with autonomous goals
An analysis distinguishes the risks of deploying billions of robots running current-generation models from the risks posed by future systems with their own goals or volition. It argues that robots operating at GPT-6-level intelligence, after years of alignment work, would not be the main concern; the more serious uncertainty is when and how a model might begin acting independently rather than following instructions.
The analysis also notes that OpenAI’s robotics team is working on connecting Astra to a robot, a paintbrush and a camera, while suggesting that this capability does not currently pose a major risk. Clem of Hugging Face argued that AI-extinction-risk assessments should draw on a broad range of expertise, while Nathan Lambert responded that a narrowly specialized expert may still be right.
В дебатах о рисках ИИ роботов отделяют от моделей с автономными целями
В анализе различаются риски массового применения роботов на моделях нынешнего поколения и риски будущих систем, обладающих собственными целями или волей. Согласно этой оценке, роботы с интеллектом уровня GPT-6 при наличии многолетней работы по выравниванию не являются главным источником опасности; более серьезная неопределенность связана с тем, когда и каким образом модель может начать действовать самостоятельно, а не следовать инструкциям.
Также отмечается, что команда робототехники OpenAI работает над подключением Astra к роботу, кисти и камере, однако сама эта возможность, как утверждается, пока не представляет значительного риска. Clem из Hugging Face выступил за учет широкого спектра экспертных мнений при оценке риска вымирания из-за ИИ, а Nathan Lambert возразил, что даже узкопрофильный специалист может оказаться прав.