AI compute faces a trade-off between useful capabilities and recursive self-improvement
An analysis frames current AI development as a trade-off between making models better at useful applications that are not on the recursive self-improvement (RSI) path and capabilities that could accelerate RSI. The race to make models exceptionally good at coding is described as strongly aligned with RSI.
Image generation, by contrast, is characterized as not being on RSI’s critical path. The analysis notes that DeepMind may have reported a breakthrough using world models, but explicitly acknowledges uncertainty about whether that report was understood accurately and whether the claim is correct.
The view attributed to Anthropic is that world-class image generation may not be necessary if coding is strong enough, because coding could teach a model to train new models. A contrasting approach attributed to Zuck emphasizes building a tool for tasks such as booking a dinner reservation—useful, but probably not on the RSI path and therefore a reasonable trade-off for compute.
В распределении вычислений для ИИ видят компромисс между полезными возможностями и рекурсивным самосовершенствованием
В одном из аналитических подходов развитие ИИ рассматривается как компромисс между улучшением моделей для полезных прикладных задач, не связанных с путем рекурсивного самосовершенствования (RSI), и развитием возможностей, способных ускорить RSI. Гонка за создание моделей, исключительно сильных в кодинге, описывается как тесно связанная с RSI.
Генерация изображений, напротив, характеризуется как направление, не находящееся на критическом пути RSI. Отмечается, что DeepMind, возможно, сообщила о прорыве с использованием мировых моделей, однако прямо признается неопределенность в том, насколько корректно это сообщение было понято и верно ли само утверждение.
Согласно приписываемой Anthropic позиции, мировое лидерство в генерации изображений может быть не нужно, если модели достаточно сильны в кодинге: он способен обучать модель созданию новых моделей. Противоположный подход, приписываемый Zuck, делает акцент на инструментах для таких задач, как бронирование ужина, — это полезно, но, вероятно, не связано с путем RSI и потому является разумным компромиссом при распределении вычислений.