Спрос на вычисления превышает предложение на фоне перехода дата-центров к гетерогенной обработке

Сейчас спрос на вычисления повсеместно превышает доступность мощностей, а цепочка поставок полупроводников работает на 100% мощности. Ожидается, что дата-центры будут переходить к гетерогенным вычислениям, при которых разные процессоры или вычислительные движки выполняют разные задачи.

CPU, как ожидается, сохранят важную роль в оркестрации агентов, а спрос на них в дата-центрах и на устройствах будет продолжать расти по мере внедрения агентов. При инференсе отдельные движки могут обрабатывать такие этапы, как prefill и decode.