Recursive AI self-improvement may require specialized data, human expertise and capital
As AI models become more capable, the focus in data shifts from volume to precision and quality. The analysis argues that recursive self-improvement (RSI) cannot rely only on changes to training code and hyperparameters: compute, energy, data, human expertise and real-world input can also be bottlenecks. A fully realized RSI system may even need to raise capital and handle capital formation.
The need for human input varies by task. Mathematics has abundant data and verification approaches such as Lean, while workplace writing—such as a Slack post—has sparser data, less-defined rewards and requires nuanced context.
Для рекурсивного самоулучшения ИИ могут потребоваться специализированные данные, экспертиза людей и капитал
По мере развития моделей ИИ фокус в работе с данными смещается с их объёма на точность и качество. Согласно этому анализу, рекурсивное самоулучшение (RSI) не может опираться только на изменения обучающего кода и гиперпараметров: ограничивающими факторами также могут быть вычислительные ресурсы, энергия, данные, экспертиза людей и информация из реального мира. Для полноценного RSI-системе может понадобиться даже привлекать средства и заниматься формированием капитала.
Потребность в человеческом участии зависит от задачи. В математике много данных и есть способы проверки, например Lean, тогда как для рабочих текстов — таких как сообщение в Slack — данных меньше, критерии вознаграждения определены хуже, а результат требует тонкого понимания контекста.