Open and closed AI labs are largely scaling the same training recipe
An assessment of current model development says there is little difference between OpenAI’s reinforcement-learning stack, Chinese open-source efforts and American open-source projects. The approach first scaled pre-training and model size and is now scaling reinforcement learning (RL).
The view is that labs will continue scaling RL, on the bet that it will produce higher levels of intelligence and enable more economically useful tasks. Continual learning is also identified as an important priority.
Открытые и закрытые ИИ-лаборатории в основном масштабируют один и тот же рецепт обучения
Согласно оценке текущего развития моделей, между стеком reinforcement learning OpenAI, китайскими open-source-разработками и американскими open-source-проектами существует мало различий. Сначала масштабировались предварительное обучение и размер моделей, а теперь масштабируется reinforcement learning (RL).
Ожидается, что лаборатории продолжат масштабировать RL, рассчитывая на достижение более высоких уровней интеллекта и выполнение большего числа экономически полезных задач. Отдельно важным приоритетом называется непрерывное обучение.