Continual learning остаётся нерешённым для повседневных AI-систем

Для передовых AI-лабораторий continual learning может быть достигнут за счёт ускорения уже существующего цикла обучения: сбора данных, создания сред для обучения с подкреплением и переобучения моделей. Согласно анализу, по мере роста доступных вычислений более крупные модели смогут совершенствовать архитектуру, снижать ошибку на этапе предварительного обучения и самостоятельно создавать RL-среды в большом масштабе.

Однако такой подход не решает проблему continual learning для обычных AI-native стартапов, предприятий и специализированных агентов. Агент-юрист, которого обучают сложным связям и неявным практикам фирмы, может деградировать при supervised fine-tuning, а reinforcement learning может не обеспечивать нужное усвоение знаний. Удовлетворительного решения пока нет; оценка проблемы зависит от того, как определяется continual learning и для какого применения он рассматривается.