Представитель OpenAI: для согласования ИИ нужны и исследования, и инженерная работа

Согласование ИИ не следует считать только инженерной проблемой, заявил представитель OpenAI. По его словам, утверждение, что научная сторона согласования уже решена, опасно и ошибочно; необходим дальнейший прогресс в исследованиях, и он ожидает, что он продолжится.

Также нужна инженерная работа, включая создание более совершенных изолированных сред и инструментов мониторинга. Представитель заявил, что если модели станут намного умнее людей, научную проблему согласования необходимо будет решить.