Compute demand outpaces supply as data centers move toward heterogeneous processing
Compute demand currently exceeds availability across the board, while the semiconductor supply chain is operating at 100% capacity. Data centers are expected to evolve toward heterogeneous computing, with different processors or engines handling different tasks.
CPUs are expected to remain important for orchestrating agents, and CPU demand is projected to continue rising in data centers and on devices as agents are deployed. In inference, separate engines may handle stages such as prefill and decode.
Спрос на вычисления превышает предложение на фоне перехода дата-центров к гетерогенной обработке
Сейчас спрос на вычисления повсеместно превышает доступность мощностей, а цепочка поставок полупроводников работает на 100% мощности. Ожидается, что дата-центры будут переходить к гетерогенным вычислениям, при которых разные процессоры или вычислительные движки выполняют разные задачи.
CPU, как ожидается, сохранят важную роль в оркестрации агентов, а спрос на них в дата-центрах и на устройствах будет продолжать расти по мере внедрения агентов. При инференсе отдельные движки могут обрабатывать такие этапы, как prefill и decode.