Для рекурсивного самоулучшения ИИ могут потребоваться специализированные данные, экспертиза людей и капитал

По мере развития моделей ИИ фокус в работе с данными смещается с их объёма на точность и качество. Согласно этому анализу, рекурсивное самоулучшение (RSI) не может опираться только на изменения обучающего кода и гиперпараметров: ограничивающими факторами также могут быть вычислительные ресурсы, энергия, данные, экспертиза людей и информация из реального мира. Для полноценного RSI-системе может понадобиться даже привлекать средства и заниматься формированием капитала.

Потребность в человеческом участии зависит от задачи. В математике много данных и есть способы проверки, например Lean, тогда как для рабочих текстов — таких как сообщение в Slack — данных меньше, критерии вознаграждения определены хуже, а результат требует тонкого понимания контекста.