TBPN guests: On-premise and open models will grow, but frontier AI may grow faster
The guests said that the on-premise and open-model market would continue to grow quickly in absolute terms. But if companies can earn high returns relatively quickly from frontier AI in domains where intelligence is a key bottleneck, they predicted that the frontier-model market would grow faster relative to that segment. One guest suggested that most tokens may be served by non-frontier models, while most spending may go to frontier models.
Discussing a report that Goldman Sachs might ban or restrict Claude Code, Codex and other coding agents internally, the participants did not confirm that a decision had been made. One guest described a possible restriction for junior analysts as potentially short-sighted, but predicted that Goldman Sachs would still need to spend heavily on penetration testing.
As context, a participant cited his team’s finance benchmark: according to him, none of the models tested could successfully complete an analyst task, and the closest model received about 50% of the credit. He argued that open models would perform worse than frontier models. These were the participants’ assessment and benchmark results, not an independently verified model comparison or an established fact about Goldman Sachs policy.
Гости TBPN: рынок локальных и открытых моделей будет расти, но передовые ИИ-модели могут расти быстрее
Участники обсуждения считают, что рынок вычислений на собственной инфраструктуре (on-premise) и открытых моделей продолжит быстро расти в абсолютном выражении. Однако если компании смогут сравнительно быстро получать высокую отдачу от передового ИИ в областях, где интеллект является ключевым ограничением, рынок передовых моделей, по их прогнозу, будет расти быстрее относительно этого сегмента. Один из участников предположил, что основная доля токенов будет приходиться на непередовые модели, а основная доля расходов — на передовые.
Обсуждая сообщение о возможном запрете или ограничении Goldman Sachs на использование Claude Code, Codex и других кодинговых агентов внутри компании, участники не подтвердили, что такое решение принято. Один участник назвал подобное ограничение для младших аналитиков потенциально недальновидным, но предположил, что Goldman Sachs всё равно придётся тратить значительные средства на тестирование на проникновение.
В качестве контекста участник привёл финансовый бенчмарк своей команды: по его словам, ни одна из проверенных моделей не смогла успешно выполнить задачу аналитика, а ближайшая к этому модель получила около 50% баллов. Он считал, что открытые модели справились бы хуже передовых. Это оценка участников и результат их бенчмарка, а не независимо подтверждённое сравнение моделей или установленный факт о правилах Goldman Sachs.