OpenAI representative says AI alignment needs both research and engineering
AI alignment should not be treated only as an engineering problem, an OpenAI representative said. They called it dangerously wrong to claim that the scientific side of alignment has already been solved, and said more research progress is needed; they expect that progress to continue.
Engineering work is also needed, including better sandboxes and monitoring tools. The representative said that if models are to become much smarter than people, the science of alignment must be solved.
Представитель OpenAI: для согласования ИИ нужны и исследования, и инженерная работа
Согласование ИИ не следует считать только инженерной проблемой, заявил представитель OpenAI. По его словам, утверждение, что научная сторона согласования уже решена, опасно и ошибочно; необходим дальнейший прогресс в исследованиях, и он ожидает, что он продолжится.
Также нужна инженерная работа, включая создание более совершенных изолированных сред и инструментов мониторинга. Представитель заявил, что если модели станут намного умнее людей, научную проблему согласования необходимо будет решить.