Энциклопедия AI-процессоров: как выбрать CPU для рабочей станции, сервера и дата-центра

Распространённый сценарий: видеокарты стоимостью в несколько миллионов гривен едва вытягивают AI-задачи, хотя подобраны точно под требования пайплайна. Типичная причина — неподходящий процессор. Он может быть дорогим, входить в престижную линейку, иметь высокую частоту и много кеша, но слишком мало PCIe-линий для обслуживания всей системы.

Да, видеокарты по-прежнему остаются основными исполнителями работы в AI-системах. При этом процессор готовит и передаёт данные, берёт на себя системные задачи и определяет, сколько GPU, памяти и дополнительных устройств можно нормально подключить к платформе. Поэтому выбор CPU для AI — это фактически выбор инфраструктуры, на которой будут работать дорогие ускорители сегодня и после масштабирования системы.

В этой статье мы разберём процессоры для персональных рабочих станций, AI-серверов и дата-центров, ARM-системы для искусственного интеллекта и ноутбуки на Ryzen AI Max.

Содержание

1. Какие процессоры подходят для AI
2. Для рабочей станции
3. Готовые ARM-системы и платформы
4. Для сервера
5. Для дата-центра
6. Ноутбуки на Ryzen AI Max
7. По сценариям использования
8. Какой процессор выбрать
9. Частые вопросы (FAQ)

Какие процессоры подходят для AI

Процессор для AI — это CPU, характеристики которого позволяют полноценно обслуживать ускорители для работы искусственного интеллекта.

Важно отличать специализированные AI-системы от процессоров для AI. Первые — это готовые системы, в которых процессор, графический ускоритель и память спроектированы для совместной работы с AI-нагрузками. Вторые — универсальные компьютерные процессоры, которые подходят по характеристикам для AI-сборок, хотя могли создаваться для значительно более широкого круга задач.

Характеристики процессоров для AI

При выборе CPU оценивайте именно те характеристики, которые прямо влияют на работу AI-системы и возможности её дальнейшего расширения.

Для станции с одной видеокартой часто достаточно современного десктопного CPU и полноценного PCIe x16. HEDT (высокопроизводительная десктопная платформа) становится особенно полезной при переходе к двум и более GPU, когда системе уже нужен значительно больший запас PCIe и памяти.

В серверном сегменте следует оценивать уже всю конфигурацию в комплексе. Материнская плата, шасси и PCIe-коммутаторы определяют, сколько ускорителей можно подключить и какую пропускную способность они реально получат.

Что учитывать при выборе AI-процессора

Выбор начинается с конфигурации системы. Для одной видеокарты требования к CPU относительно умеренные. Если планируете две или четыре GPU, уже нужно считать PCIe-линии, смотреть на возможности материнской платы и оставлять запас для дальнейшего расширения.

Также учтите характер AI-нагрузки:

• Локальный inference — запуск уже обученной модели — преимущественно нагружает GPU, поэтому CPU здесь нужен прежде всего как стабильная основа системы.
• Fine-tuning, то есть дообучение готовой модели, сильнее зависит от скорости подачи данных и работы хранилища. Для больших наборов данных важными становятся пропускная способность RAM и быстрые NVMe.
• RAG — генерация ответа с поиском в собственной базе знаний — добавляет работу с документами, векторной базой и другими сервисами. Часть такой нагрузки приходится на CPU.
• Если одна система обслуживает команду, запас процессорных ресурсов нужен уже для нескольких одновременных запросов и фоновых процессов.

Оцените масштабирование. Если сегодня достаточно двух GPU, но через год система должна вырасти до четырёх, дешевле сразу взять платформу с нужным количеством PCIe-линий и слотов. То же касается оперативной памяти: рабочая станция на 128 ГБ и сервер с возможностью установить 1–2 ТБ решают разные задачи.

Для серверов и дата-центров добавляются требования к непрерывной работе, сети и плотности оборудования. Здесь уже важны поддержка ECC-памяти, один или два процессорных сокета, возможность подключения быстрых сетевых адаптеров и суммарное энергопотребление узла.

Ещё один критерий — архитектура процессора. Большинство рабочих станций и серверов построены на x86, но для AI всё чаще используют ARM-платформы. Они отличаются не только CPU, но и подходом к построению всей системы, поэтому перед переходом на ARM стоит проверить совместимость нужного ПО и определить, подходит ли такая платформа под ваш сценарий масштабирования.

Как мы отбирали AI-процессоры

В список попали процессоры, полезные именно для AI-систем. Мы оценивали производительность CPU вместе с возможностями платформы: количеством PCIe-линий, пропускной способностью памяти, поддержкой нескольких GPU и доступными материнскими платами или серверными шасси.

Для разных классов систем критерии отбора отличаются:

• Рабочая станция — производительность CPU, количество GPU и запас для дальнейшего расширения.
• Сервер — I/O, объём памяти, стабильная работа под постоянной нагрузкой и возможность обслуживать нескольких пользователей.
• Дата-центр — плотность системы, энергопотребление, сетевое подключение и масштабирование на несколько узлов.

В подборке есть и процессоры предыдущих поколений. Более старый Threadripper PRO или EPYC может оставаться хорошей основой для AI, если платформа даёт достаточно PCIe-линий и памяти, а её общая стоимость заметно ниже нового поколения. В таком сценарии высвобожденный бюджет можно направить на дополнительную GPU, больший объём RAM или накопители.

Для каждой модели мы также определили основной сценарий использования. Одни CPU лучше подходят для multi-GPU рабочих станций, другие — для серверов с дорогими ускорителями или большого количества параллельных сервисов в дата-центре. По этим ролям процессоры и распределены далее.

↑ К содержанию

AI-процессоры для рабочей станции

AI-рабочая станция — это персональная система для локальной работы с моделями, где вычисления выполняются на одной или нескольких видеокартах. Такой формат подходит разработчикам, исследователям и небольшим командам, которым нужен собственный ресурс без отдельной серверной инфраструктуры.

Для конфигураций с одной или двумя GPU обычно достаточно HEDT-платформы вроде TRX50. Если планируется три-четыре видеокарты, большее значение уже имеют количество PCIe-линий, каналы памяти и физические возможности материнской платы. В таком случае лучше сразу смотреть на WRX80, WRX90 или профессиональные Intel-платформы.

Далее мы собрали процессоры разных поколений и классов — от доступных решений для первых multi-GPU станций до актуальных high-end моделей для систем с большим запасом на масштабирование.

AMD Ryzen Threadripper PRO 5955WX

• Класс: доступный
• Основной сценарий: бюджетная multi-GPU рабочая станция
• Альтернативный сценарий: небольшой AI-сервер или лабораторный стенд

AMD Ryzen Threadripper PRO 5955WX — 16-ядерный процессор поколения Zen 3 для платформы WRX80. Его главная ценность для AI — 128 линий PCIe 4.0 и 8 каналов DDR4. Этого достаточно для полноценной системы с несколькими видеокартами, если 16 CPU-ядер соответствуют вашей нагрузке.

Основные характеристики

• 16 ядер / 32 потока;
• частота до 4,5 ГГц;
• 128 линий PCIe 4.0;
• 8 каналов DDR4-3200 с ECC;
• до 2 ТБ оперативной памяти;
• сокет sWRX8;
• TDP — 280 Вт.

Пример распределения PCIe-линий

Для каких задач

• локальный запуск больших моделей на нескольких GPU;
• дообучение моделей;
• RAG и работа с большими наборами данных;
• AI-разработка с заметной нагрузкой на CPU.

Преимущества

5955WX интересен как доступный вход в профессиональную платформу WRX80. Если в приоритете у вас вторая, третья или четвёртая GPU, а 16 ядер достаточно для рабочего пайплайна, эта модель позволяет направить большую часть бюджета именно на ускорители и оперативную память.

Недостатки и ограничения

WRX80 использует DDR4 и PCIe 4.0, поэтому пропускная способность ниже, чем у современных WRX90-систем. 16 ядер быстрее станут ограничением в задачах с тяжёлой предварительной обработкой данных (preprocessing) или большим количеством параллельных CPU-процессов.

Инфраструктура

• Платформа: WRX80, сокет sWRX8.
• Пример материнской платы: ASUS Pro WS WRX80E-SAGE SE WiFi.
• RAM: 256–512 ГБ ECC DDR4 для типовой multi-GPU AI-станции.
• GPU: 2–4 видеокарты для multi-GPU AI-станции.
• Питание: около 2000 Вт для 4×RTX PRO 6000 Blackwell Max-Q.
• Корпус: full tower или workstation chassis, рассчитанный на 4 dual-slot GPU.
• Охлаждение CPU: 360 мм AIO или кулер с большой контактной пластиной.

AMD Ryzen Threadripper PRO 5975WX

• Класс: оптимальный (более старое поколение)
• Основной сценарий: 2–4 GPU; рабочая станция с заметной нагрузкой на CPU
• Альтернативный сценарий: локальный AI-узел для небольшой команды

AMD Ryzen Threadripper PRO 5975WX — 32-ядерный Zen 3, который сохраняет все сильные стороны WRX80 и даёт вдвое больше ядер, чем 5955WX. Для AI это интересная середина старой профессиональной линейки: 128 PCIe 4.0 позволяют разместить несколько ускорителей, а 32 ядра уже дают хороший запас для работы с данными и фоновых процессов.

Основные характеристики

• 32 ядра / 64 потока;
• базовая частота — 3,6 ГГц, boost — до 4,5 ГГц;
• 128 линий PCIe 4.0;
• 8 каналов DDR4-3200 с ECC;
• до 2 ТБ оперативной памяти;
• сокет sWRX8;
• TDP — 280 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на нескольких GPU;
• локальный запуск больших языковых моделей;
• обработка больших наборов данных перед передачей на GPU;
• несколько параллельных AI-процессов на одной станции.

Преимущества

5975WX выглядит особенно интересно там, где 5955WX уже маловато по процессорной производительности, а переход на современную WRX90-платформу пока не входит в приоритеты. Вы получаете те же 128 PCIe-линий и восьмиканальную память, но 32 ядра дают системе значительно больше свободы для CPU-части пайплайна. Если в приоритете у вас несколько GPU и разумное распределение бюджета между компонентами, это один из самых сильных доступных вариантов в подборке.

Недостатки и ограничения

WRX80 работает с PCIe 4.0 и DDR4-3200. Для современных высокоскоростных накопителей, сетевых адаптеров и дальнейшего масштабирования WRX90 уже предлагает заметно больший запас пропускной способности.

Инфраструктура

• Платформа: WRX80, сокет sWRX8.
• Пример материнской платы: GIGABYTE MC62-G40.
• RAM: 256–512 ГБ ECC DDR4; для больших наборов данных можно идти выше.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: full tower или workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 360 мм AIO или кулер с большой контактной пластиной.

AMD Ryzen Threadripper PRO 5995WX

• Класс: специализированный (более старое поколение)
• Основной сценарий: AI-станция, где рядом с GPU постоянно загружен CPU
• Альтернативный сценарий: разработка, моделирование и другие профессиональные задачи на одной multi-GPU системе

AMD Ryzen Threadripper PRO 5995WX — 64-ядерный флагман поколения Zen 3 на платформе WRX80. У него тот же большой PCIe-бюджет, что и у младших 5000 WX, но уже 64 ядра / 128 потоков и 256 МБ L3-кеша. Поэтому 5995WX стоит рассматривать там, где процессор действительно выполняет значительную часть работы рядом с GPU.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 2,7 ГГц, boost — до 4,5 ГГц;
• 128 линий PCIe 4.0;
• 8 каналов DDR4-3200 с ECC;
• до 2 ТБ оперативной памяти;
• сокет sWRX8;
• TDP — 280 Вт.

Пример распределения PCIe-линий

Для каких задач

• AI-пайплайны с интенсивной предварительной обработкой данных;
• дообучение моделей на нескольких GPU;
• генерация синтетических данных и параллельные CPU-вычисления;
• комбинированная рабочая станция для AI, рендеринга или моделирования.

Преимущества

У 5995WX есть конкретная причина переплачивать по сравнению с 5975WX: вам нужны именно 64 ядра. Например, одна система одновременно готовит большие массивы данных, запускает вспомогательные CPU-процессы и обслуживает несколько ускорителей. В такой конфигурации 64 ядра реально ускоряют процессорную часть пайплайна — подготовку данных, параллельные процессы и другие многопоточные задачи.

Недостатки и ограничения

Если основную работу выполняют GPU, 64 ядра 5995WX будут использоваться не полностью, поэтому здесь логичнее смотреть на младшие модели WRX80. Платформа также сохраняет ограничения своего поколения: DDR4-3200 и PCIe 4.0.

Инфраструктура

• Платформа: WRX80, сокет sWRX8.
• Пример материнской платы: ASRock WRX80 Creator R2.0.
• RAM: 512 ГБ–1 ТБ ECC DDR4 для CPU-heavy AI-сценариев.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: full tower или workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 360/420 мм AIO или профессиональное жидкостное охлаждение.

AMD Ryzen Threadripper 7960X

• Класс: доступный современный HEDT
• Основной сценарий: персональная AI-станция с 1–2 GPU
• Альтернативный сценарий: AI-разработка с активной работой на CPU

AMD Ryzen Threadripper 7960X — 24-ядерный процессор Zen 4 для AI-станций с одной или двумя GPU. Он поддерживает 88 доступных PCIe-линий, до 48 линий PCIe 5.0 и четырёхканальную DDR5 ECC RDIMM. Такая конфигурация даёт достаточно ресурсов для двух ускорителей, быстрых NVMe и сетевого адаптера без перехода на более дорогую платформу Threadripper PRO.

Основные характеристики

• 24 ядра / 48 потоков;
• базовая частота — 4,2 ГГц, boost — до 5,3 ГГц;
• 92 PCIe-линии всего / 88 доступных;
• до 48 линий PCIe 5.0;
• 4 канала DDR5-5200 ECC RDIMM;
• до 1 ТБ оперативной памяти на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• локальный запуск моделей на одной или двух GPU;
• дообучение на персональной AI-станции;
• разработка и тестирование AI-приложений;
• подготовка данных с умеренной нагрузкой на CPU.

Преимущества

7960X — хороший шаг вверх после обычной десктопной платформы. Он даёт двум GPU полноценные x16, оставляет быстрые Gen5-линии для NVMe и сети и предлагает 24 быстрых ядра Zen 4. Для специалиста, которому нужна сильная локальная система без перехода к схеме 4-GPU, это оптимальный класс процессора.

Недостатки и ограничения

TRX50 хорошо подходит для 1–2 GPU. Для системы на 3–4 видеокарты более логично переходить на WRX90, где больше PCIe-линий и вдвое больше каналов памяти.

Инфраструктура

• Платформа: TRX50, сокет sTR5.
• Пример материнской платы: GIGABYTE TRX50 AERO D.
• RAM: 128–256 ГБ ECC DDR5; для больших рабочих наборов — до 512 ГБ и выше.
• GPU: 1–2 видеокарты.
• Питание: около 1600 Вт для 2×RTX PRO 6000 Blackwell Max-Q.
• Корпус: full tower или workstation chassis для 2 мощных GPU.
• Охлаждение CPU: 360 мм AIO или высококлассный кулер.

AMD Ryzen Threadripper 7980X

• Класс: специализированный
• Основной сценарий: 1–2 GPU AI-станция с тяжёлой CPU-частью пайплайна
• Альтернативный сценарий: универсальная workstation для AI и профессиональных многопоточных задач

AMD Ryzen Threadripper 7980X сочетает 64 ядра Zen 4 с более компактной, чем PRO-серия, платформой TRX50. Его сильная сторона — большая производительность в системе, которой достаточно одной или двух GPU. Это интересный вариант для рабочего места, где рядом с AI регулярно выполняются компиляция, моделирование, подготовка больших массивов данных или другие многопоточные задачи.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 3,2 ГГц, boost — до 5,1 ГГц;
• 92 PCIe-линии всего / 88 доступных;
• до 48 линий PCIe 5.0;
• 4 канала DDR5-5200 ECC RDIMM;
• до 1 ТБ оперативной памяти на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• подготовка и преобразование больших наборов данных;
• дообучение моделей на 1–2 GPU;
• генерация синтетических данных;
• AI вместе с рендерингом, моделированием или компиляцией больших проектов.

Преимущества

7980X стоит брать для AI-станции, где процессор регулярно получает тяжёлые многопоточные задачи. Например, он лучше подойдёт для подготовки больших наборов данных, генерации синтетических данных или параллельной работы нескольких CPU-процессов. Для системы, где основная нагрузка стабильно приходится на 1–2 GPU, 7960X будет более рациональным выбором.

Недостатки и ограничения

7980X не расширяет возможности TRX50 по сравнению с младшими Threadripper 7000: те же 88 доступных PCIe-линий и четыре канала памяти. Для чистой multi-GPU задачи переход на Threadripper PRO может дать системе больше пользы, чем дополнительные CPU-ядра.

Инфраструктура

• Платформа: TRX50, сокет sTR5.
• Пример материнской платы: ASRock TRX50 WS.
• RAM: 256–512 ГБ ECC DDR5 для больших CPU-side workload.
• GPU: 1–2 видеокарты.
• Питание: 1600 Вт.
• Корпус: full tower или workstation chassis для 2 мощных GPU.
• Охлаждение CPU: 360/420 мм AIO, особенно для длительных многопоточных нагрузок.

AMD Ryzen Threadripper PRO 7975WX

• Класс: оптимальный (более старое поколение)
• Основной сценарий: профессиональная AI-станция с 2–4 GPU
• Альтернативный сценарий: рабочая станция для AI и обработки больших массивов данных

AMD Ryzen Threadripper PRO 7975WX — 32-ядерный Zen 4 для платформы WRX90. По количеству ядер он близок к 5975WX, но уже работает с DDR5 и PCIe 5.0. Для multi-GPU систем особенно важны 128 линий PCIe 5.0 и восьмиканальная память: четыре ускорителя занимают лишь половину доступного Gen5-пула.

Основные характеристики

• 32 ядра / 64 потока;
• базовая частота — 4,0 ГГц, boost — до 5,3 ГГц;
• 148 PCIe-линий всего / 144 доступные;
• 128 линий PCIe 5.0;
• 8 каналов DDR5-5200 ECC RDIMM;
• до 2 ТБ оперативной памяти на WRX90;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на 2–4 GPU;
• локальная работа с большими языковыми и генеративными моделями;
• подготовка больших наборов данных;
• параллельная работа нескольких AI-процессов.

Преимущества

7975WX хорошо подходит для 4-GPU станции, которой нужен сильный CPU без перехода к более дорогому классу с 64 или 96 ядрами. Все модели Threadripper PRO 7000 WX верхнего класса имеют одинаковую платформу WRX90, поэтому 32-ядерный 7975WX сохраняет тот же большой PCIe-бюджет и восьмиканальную память, что и более дорогие процессоры серии.

Недостатки и ограничения

При том же количестве ядер актуальный 9975WX уже использует Zen 5 и DDR5-6400. Поэтому 7975WX лучше выбирать в тех случаях, когда платформа предыдущего поколения обходится ощутимо дешевле.

Инфраструктура

• Платформа: WRX90, сокет sTR5.
• Пример материнской платы: ASUS Pro WS WRX90E-SAGE SE.
• RAM: 256–512 ГБ ECC DDR5; для больших рабочих наборов — 1 ТБ.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: full tower или workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 360/420 мм AIO или мощный кулер.

AMD Ryzen Threadripper PRO 7995WX

• Класс: флагманский (более старое поколение)
• Основной сценарий: multi-GPU AI-станция с большой процессорной нагрузкой
• Альтернативный сценарий: универсальная workstation для AI, рендеринга и инженерных расчётов

AMD Ryzen Threadripper PRO 7995WX — 96-ядерный флагман Zen 4 и первый Threadripper PRO с таким количеством ядер. Он ориентирован на станции, где CPU работает много часов рядом с несколькими GPU: готовит данные, выполняет симуляции или обслуживает другие многопоточные процессы.

Основные характеристики

• 96 ядер / 192 потока;
• базовая частота — 2,5 ГГц, boost — до 5,1 ГГц;
• 148 PCIe-линий всего / 144 доступные;
• 128 линий PCIe 5.0;
• 8 каналов DDR5-5200 ECC RDIMM;
• до 2 ТБ оперативной памяти на WRX90;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• интенсивная предварительная обработка данных для AI;
• генерация синтетических наборов данных;
• дообучение моделей на нескольких GPU;
• одновременная работа AI, рендеринга и инженерного ПО.

Преимущества

7995WX стоит брать тогда, когда 4-GPU станции нужен ещё и очень сильный CPU. 96 ядер дают большой запас для подготовки данных, симуляций, рендеринга и других многопоточных задач. Платформа WRX90 сохраняет полный набор возможностей для multi-GPU конфигурации.

Недостатки и ограничения

7995WX имеет смысл рассматривать лишь для задач, которые хорошо масштабируются на десятки ядер. В GPU-heavy системе значительная часть его 96 ядер будет простаивать, хотя PCIe-возможности остаются такими же, как у 7975WX. К тому же это Zen 4 с DDR5-5200: актуальный 9995WX уже предлагает Zen 5 и DDR5-6400.

Инфраструктура

• Платформа: WRX90, сокет sTR5.
• Пример материнской платы: ASRock WRX90 WS EVO.
• RAM: 512 ГБ–1 ТБ ECC DDR5; платформа поддерживает до 2 ТБ.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 420 мм AIO или кастомный жидкостный контур для длительной многопоточной нагрузки.

AMD Ryzen Threadripper 9960X

• Класс: оптимальный
• Основной сценарий: актуальная AI-станция с 1–2 GPU
• Альтернативный сценарий: локальная AI-разработка с активным использованием CPU

AMD Ryzen Threadripper 9960X — 24-ядерный Zen 5 для современных рабочих станций с 1–2 GPU. По сравнению с 7960X он сохраняет тот же класс производительности, но поддерживает DDR5-6400 и до 80 линий PCIe 5.0. Это даёт больше скоростных интерфейсов для GPU, накопителей и сети без перехода на Threadripper PRO.

Основные характеристики

• 24 ядра / 48 потоков;
• базовая частота — 4,2 ГГц, boost — до 5,4 ГГц;
• 92 PCIe-линии всего / 88 доступные;
• до 80 линий PCIe 5.0;
• 4 канала DDR5-6400 ECC RDIMM;
• до 1 ТБ оперативной памяти на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• локальный inference на одной или двух GPU;
• дообучение моделей;
• разработка AI-приложений;
• подготовка данных с умеренной нагрузкой на CPU.

Преимущества

9960X — сильный вариант для новой 2-GPU станции, если 24 ядер хватает для процессорной части работы. По сравнению с Threadripper 7000 платформа имеет больше Gen5-линий и более быструю память. Это особенно полезно, когда рядом с двумя GPU используются несколько быстрых NVMe или сетевой адаптер.

Недостатки и ограничения

TRX50 остаётся четырёхканальной платформой с 88 доступными PCIe-линиями. Для 3–4 GPU и большого запаса под дальнейшее расширение лучше подходит WRX90.

Инфраструктура

• Платформа: TRX50, сокет sTR5.
• Пример материнской платы: Supermicro H13SRA-TF.
• RAM: 128–256 ГБ ECC DDR5-6400; для больших рабочих наборов — 512 ГБ.
• GPU: 1–2 видеокарты.
• Питание: 1600 Вт.
• Корпус: full tower или workstation chassis для 2 мощных GPU.
• Охлаждение CPU: 360 мм AIO или большой кулер.

AMD Ryzen Threadripper 9980X

• Класс: специализированный
• Основной сценарий: 1–2 GPU AI-станция с высокой нагрузкой на CPU
• Альтернативный сценарий: локальная workstation для AI, компиляции и вычислительных задач

AMD Ryzen Threadripper 9980X — 64-ядерный Zen 5 для мощной AI-станции с одной или двумя GPU. Его стоит брать, когда большая часть работы регулярно остаётся на CPU: подготовка данных, компиляция, моделирование или несколько тяжёлых процессов одновременно. Платформа TRX50 даёт 80 линий PCIe 5.0 и DDR5-6400, поэтому двум ускорителям хватает пропускной способности, а остальные ресурсы остаются под быстрые накопители и сеть.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 3,2 ГГц, boost — до 5,4 ГГц;
• 92 PCIe-линии всего / 88 доступные;
• до 80 линий PCIe 5.0;
• 4 канала DDR5-6400 ECC RDIMM;
• до 1 ТБ оперативной памяти на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• большие объёмы предварительной обработки данных;
• генерация синтетических данных;
• AI вместе с компиляцией или моделированием;
• несколько тяжёлых CPU-процессов рядом с 1–2 GPU.

Преимущества

9980X имеет смысл там, где TRX50 по количеству GPU полностью устраивает, но 24 ядра 9960X уже не соответствуют процессорной нагрузке. 64 ядра позволяют оставить AI и тяжёлые CPU-задачи на одной рабочей станции без перехода на более дорогую PRO-платформу.

Недостатки и ограничения

Количество PCIe-линий и каналов памяти в 9980X такое же, как у младших Threadripper 9000. Поэтому 64 ядра увеличивают именно CPU-производительность, а масштаб системы по количеству GPU остаётся в классе TRX50.

Инфраструктура

• Платформа: TRX50, сокет sTR5.
• Пример материнской платы: GIGABYTE TRX50 AI TOP.
• RAM: 256–512 ГБ ECC DDR5-6400.
• GPU: 1–2 видеокарты.
• Питание: 1600 Вт.
• Корпус: full tower или workstation chassis для 2 мощных GPU.
• Охлаждение CPU: 420 мм AIO или жидкостный контур для длительной нагрузки.

AMD Ryzen Threadripper PRO 9975WX

• Класс: оптимальный
• Основной сценарий: профессиональная AI-станция с 2–4 GPU
• Альтернативный сценарий: локальный AI-узел для команды

AMD Ryzen Threadripper PRO 9975WX — 32-ядерный Zen 5, который хорошо подходит именно для multi-GPU станций. Четыре видеокарты занимают 64 из 128 линий PCIe 5.0, поэтому большой запас остаётся под накопители и быструю сеть. Восемь каналов DDR5-6400 добавляют пропускной способности там, где CPU активно работает с большими наборами данных.

Основные характеристики

• 32 ядра / 64 потока;
• базовая частота — 4,0 ГГц, boost — до 5,4 ГГц;
• 148 PCIe-линий всего / 144 доступные;
• 128 линий PCIe 5.0;
• 8 каналов DDR5-6400 ECC RDIMM;
• до 2 ТБ оперативной памяти на актуальных WRX90-платформах;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на 2–4 GPU;
• локальный запуск больших языковых моделей;
• корпоративная AI-разработка на отдельной рабочей станции;
• подготовка и обработка больших наборов данных.

Преимущества

9975WX особенно хорошо выглядит в 4-GPU системе. Он даёт тот же большой PCIe-пул и восьмиканальную память, что и старшие Threadripper PRO 9000 WX, а 32 ядер хватает для большинства задач вокруг GPU. По сравнению с 7975WX здесь уже есть Zen 5 и DDR5-6400. Если основные деньги в конфигурации должны пойти именно на ускорители, этот процессор будет самым сбалансированным среди всех моделей в подборке.

Недостатки и ограничения

32 ядра могут стать пределом для станции, где рядом с AI постоянно выполняются тяжёлые симуляции, рендеринг или большой объём CPU-вычислений. Для системы только с одной GPU возможности WRX90, наоборот, будут использоваться частично.

Инфраструктура

• Платформа: WRX90, сокет sTR5.
• Пример материнской платы: GIGABYTE MH53-G40.
• RAM: 256–512 ГБ ECC DDR5-6400; для больших рабочих наборов — 1 ТБ.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 360/420 мм AIO или кастомная жидкостная система.

AMD Ryzen Threadripper PRO 9995WX

• Класс: флагманский
• Основной сценарий: 4-GPU AI-станция с высокой нагрузкой на CPU
• Альтернативный сценарий: универсальная рабочая станция для AI и тяжёлых профессиональных вычислений

AMD Ryzen Threadripper PRO 9995WX — 96-ядерный флагман Zen 5 для станций, где много работы приходится и на GPU, и на процессор. Его 96 ядер / 192 потока нужны для тяжёлой подготовки данных, симуляций, компиляции или нескольких больших CPU-задач одновременно.

Основные характеристики

• 96 ядер / 192 потока;
• базовая частота — 2,5 ГГц, boost — до 5,4 ГГц;
• 148 PCIe-линий всего / 144 доступные;
• 128 линий PCIe 5.0;
• 8 каналов DDR5-6400 ECC RDIMM;
• до 2 ТБ оперативной памяти на типовых WRX90-платформах;
• сокет sTR5;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей с большим объёмом CPU-обработки;
• генерация и подготовка больших наборов данных;
• AI вместе с симуляциями или рендерингом;
• несколько тяжёлых вычислительных процессов на одной 4-GPU станции.

Преимущества

9995WX нужен там, где четырём GPU регулярно помогает очень сильный CPU. Если данные нужно активно преобразовывать перед подачей на ускорители или параллельно выполняются другие многопоточные задачи, 96 ядер становятся решающим фактором. При этом переходить на серверную платформу ради такой CPU-нагрузки ещё не нужно.

Недостатки и ограничения

По PCIe и памяти 9995WX почти ничего не добавляет к 9975WX — обе модели работают в пределах WRX90. Поэтому для GPU-heavy AI доплата за 96 ядер оправдана только тогда, когда процессорная часть пайплайна действительно велика.

Инфраструктура

• Платформа: WRX90, сокет sTR5.
• Пример материнской платы: Supermicro H13SRH.
• RAM: 512 ГБ–1 ТБ ECC DDR5-6400.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: большой workstation chassis или 4U-корпус.
• Охлаждение CPU: 420 мм AIO или профессиональная жидкостная система.

Intel Xeon w9-3495X

• Класс: оптимальный (более старое поколение)
• Основной сценарий: профессиональная AI-станция с 2–4 GPU
• Альтернативный сценарий: рабочая станция с заметной долей AI-вычислений на CPU

Intel Xeon w9-3495X — 56-ядерный процессор для больших workstation на платформе W790. Его сильная сторона для AI — 112 линий PCIe 5.0: после подключения четырёх GPU остаётся достаточно ресурса для быстрой сети и NVMe. Восьмиканальная DDR5 поддерживает большие объёмы памяти, а Intel AMX добавляет ускорение для части матричных вычислений непосредственно на CPU.

Основные характеристики

• 56 ядер / 112 потоков;
• базовая частота — 1,9 ГГц, turbo — до 4,8 ГГц;
• 112 линий PCIe 5.0;
• 8 каналов DDR5-4800 ECC;
• до 4 ТБ оперативной памяти;
• Intel AMX, AVX-512 и DL Boost;
• сокет LGA4677;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на 2–4 GPU;
• локальный запуск больших моделей;
• AI inference с использованием Intel AMX;
• AI-проекты с большим объёмом оперативной памяти.

Преимущества

w9-3495X по-прежнему может использоваться для 4-GPU станции: 112 Gen5-линий дают достаточный запас для периферии, а 56 ядер хватает для серьёзной процессорной нагрузки. Особенно уместен он в бизнесе, где уже есть W790-системы или используются оптимизированные под Intel CPU инструменты. В таком случае переход на более новую платформу нужен лишь тогда, когда её дополнительные возможности действительно будут использованы.

Недостатки и ограничения

DDR5-4800 уже уступает новым платформам по пропускной способности. Для новой сборки w9-3495X имеет смысл, если W790-платформа заметно дешевле актуальных решений и при этом её возможностей достаточно для вашей конфигурации.

Инфраструктура

• Платформа: W790, сокет LGA4677.
• Пример материнской платы: Supermicro X13SWA-TF.
• RAM: 512 ГБ–1 ТБ ECC DDR5; при необходимости платформа позволяет идти до нескольких терабайт.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 360/420 мм AIO или жидкостная система для LGA4677.

Intel Xeon 698X

• Класс: флагманский
• Основной сценарий: современная Intel AI-станция с 4 GPU
• Альтернативный сценарий: рабочая станция с большой CPU-нагрузкой

Intel Xeon 698X — 86-ядерный флагман серии Xeon 600 для рабочих станций. Intel имеет 128 линий PCIe 5.0, DDR5-6400 и поддержку MRDIMM-8000. Для 4-GPU AI-системы это означает большой запас I/O без перехода в серверный сегмент.

Основные характеристики

• 86 ядер / 172 потока;
• базовая частота — 2,0 ГГц, turbo — до 4,8 ГГц;
• 128 линий PCIe 5.0;
• 8 каналов DDR5-6400;
• поддержка MRDIMM-8000;
• до 4 ТБ оперативной памяти;
• Intel AMX, AVX-512 и DL Boost;
• сокет LGA4710;
• TDP — 350 Вт, максимальная Turbo Power — 420 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на 4 GPU;
• тяжёлая предварительная обработка больших наборов данных;
• CPU inference с Intel AMX;
• AI вместе с симуляциями, компиляцией и другими многопоточными задачами.

Преимущества

698X — полноценный ответ Intel на Threadripper PRO. Четыре GPU занимают 64 из 128 PCIe-линий, поэтому в системе остаётся много ресурса для сети и быстрого хранилища. 86 ядер добавляют смысла такой конфигурации, если CPU тоже регулярно работает под большой нагрузкой.

Недостатки и ограничения

698X — очень дорогой по ресурсам CPU выбор для системы, где почти всю работу выполняют видеокарты. Для такого сценария можно взять младший Xeon 600 и сохранить те же возможности W890. Если же система должна вырасти до двух процессоров или 8 GPU, уже нужна серверная платформа.

Инфраструктура

• Платформа: W890, сокет LGA4710.
• Пример материнской платы: GIGABYTE MW94-RP0.
• RAM: 512 ГБ–1 ТБ ECC DDR5 или MRDIMM.
• GPU: 2–4 видеокарты.
• Питание: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охлаждение CPU: 420 мм AIO или профессиональная жидкостная система.

↑ К содержанию

Готовые AI-системы и платформы на ARM-архитектуре

AI-системы на ARM-архитектуре — это готовые вычислительные платформы на процессорах другого типа, чем привычные x86-модели Intel и AMD. ARM использует другой набор команд и хорошо подходит для компактных и энергоэффективных систем, где CPU, GPU и память тесно интегрированы между собой. В готовых AI-платформах это позволяет объединить основные компоненты в одну систему вместо отдельного подбора процессора, видеокарты и памяти.

Самые популярные персональные ARM-системы для AI сегодня построены на NVIDIA GB10 Grace Blackwell. Этот чип сочетает 20-ядерный ARM-процессор с графикой Blackwell и 128 ГБ унифицированной LPDDR5X с пропускной способностью 273 ГБ/с. CPU и GPU работают с общим пулом памяти, поэтому система может запускать значительно большие модели, чем типовая рабочая станция с одной видеокартой на 24–48 ГБ.

Одна система на GB10 рассчитана на локальный инференс моделей до 200 млрд (200B) параметров и дообучение моделей до 70 млрд. Для низкоточных AI-вычислений FP4 производительность достигает 1 PFLOP. В результате компактная система подходит для работы с большими LLM, RAG, агентами и локального тестирования моделей перед переносом на сервер.

Когда выбрать ARM-систему для AI

ARM-система на GB10 лучше всего подходит для персональной локальной работы с большими моделями, когда полноразмерная многовидеокартная станция не нужна. Выбирайте такой формат, если:

• нужно локально запускать LLM, которым уже мало 24–48 ГБ памяти обычной видеокарты;
• разработчику или исследователю нужна собственная AI-машина для инференса, RAG, агентов и дообучения;
• модели и корпоративные данные должны оставаться внутри компании;
• нужна готовая компактная система с настроенным стеком NVIDIA вместо самостоятельной сборки рабочей станции;
• один узел планируется впоследствии дополнить вторым и распределять большие модели между двумя системами.

GB10 работает на ARM64 и уже поддерживает основные AI-инструменты: PyTorch, TensorRT-LLM, NVIDIA NIM и другой софт экосистемы NVIDIA. Поэтому для типовых задач с локальными моделями, RAG и AI-агентами платформа уже готова к работе.

Какие системы с ARM-процессорами для AI купить

Большинство актуальных персональных ARM-систем этого класса используют одинаковый NVIDIA GB10 и 128 ГБ памяти. Поэтому основная разница между моделями — накопитель, исполнение и комплектация.

Воспользовавшись каталогом CompX, вы можете купить в Украине такие готовые ARM-системы:

• GIGABYTE AI TOP ATOM ATAGB10-9000. Самая интересная версия AI TOP ATOM для работы с большим локальным набором моделей и данных. SSD на 4 ТБ PCIe 5.0 даёт достаточно места для нескольких LLM, баз знаний и рабочих проектов без постоянного переноса файлов.
• GIGABYTE AI TOP ATOM ATAGB10-9001. Также имеет 4 ТБ памяти для хранения данных, но использует SSD PCIe 4.0. Подходит для тех же больших локальных AI-проектов, если максимальная скорость накопителя не является приоритетом.
• GIGABYTE AI TOP ATOM ATAGB10-9002. Версия с SSD на 1 ТБ для разработчика, который хранит большие датасеты на сервере или NAS. Вычислительные возможности GB10 и 128 ГБ унифицированной памяти при этом остаются такими же.
• PNY NVIDIA DGX Spark EU. Референсная система NVIDIA с 4 ТБ NVMe и готовой DGX OS. Хорошо подходит компаниям, которые хотят использовать одинаковый программный стек от персональной машины разработчика до больших серверных GPU-систем.
• PNY NVIDIA DGX Spark Bundle EU. Комплект из двух DGX Spark для распределённой работы с моделями до 405 млрд параметров. Каждый узел имеет собственные 128 ГБ памяти, а вычисления распределяются между ними через ConnectX-7.
• ASUS Ascent GX10. Компактная система на том же GB10 с 128 ГБ унифицированной памяти. Вариант для персональной AI-разработки, локального инференса и работы с большими моделями в готовом форм-факторе от ASUS.

ARM в серверах и дата-центрах

В серверном сегменте ARM используется уже в значительно более мощных системах. Один из главных примеров — NVIDIA Grace CPU Superchip: 144 ядра, до 960 ГБ LPDDR5X и пропускная способность памяти до 1 ТБ/с. Такие процессоры подходят для AI, HPC и задач, где нужно быстро обрабатывать большие объёмы данных.

Следующий шаг — Grace Blackwell. Здесь процессор Grace работает вместе с GPU Blackwell через NVLink-C2C. Например, GB200 Grace Blackwell Superchip сочетает 72-ядерный CPU и два ускорителя Blackwell в одном модуле.

Для дата-центров NVIDIA масштабирует эту схему до уровня целой стойки. GB200 NVL72 содержит 36 процессоров Grace и 72 GPU Blackwell. То есть ARM-платформы могут работать и как компактные персональные AI-системы, и как основа больших вычислительных кластеров.

↑ К содержанию

AI-процессоры для сервера

AI-сервер — это отдельный вычислительный узел, ресурсом которого пользуется команда или корпоративные сервисы. Здесь процессор обслуживает несколько GPU, работу с данными и одновременные запросы. Поэтому для сервера особенно важны PCIe-линии, пропускная способность памяти и возможность работать под длительной нагрузкой.

AMD EPYC 7443P

• Класс: доступный (более старое поколение)
• Основной сценарий: бюджетный AI-сервер с 2–4 GPU
• Альтернативный сценарий: сервер для локального RAG и совместного запуска моделей

AMD EPYC 7443P — 24-ядерный серверный процессор поколения Milan на платформе SP3. Для современного AI он интересен прежде всего своими 128 линиями PCIe 4.0. Даже в четырёхкарточной конфигурации остаётся большой запас под сеть и накопители. Восемь каналов DDR4 дают 204,8 ГБ/с пропускной способности памяти — скромнее, чем у новых EPYC, но вполне пригодно для бюджетного GPU-сервера.

Основные характеристики

• 24 ядра / 48 потоков;
• базовая частота — 2,85 ГГц, boost — до 4,0 ГГц;
• 128 линий PCIe 4.0;
• 8 каналов DDR4-3200 ECC;
• пропускная способность памяти — 204,8 ГБ/с;
• сокет SP3;
• один процессорный сокет;
• TDP — 200 Вт.

Пример распределения PCIe-линий

Для каких задач

• локальный запуск моделей на нескольких GPU;
• корпоративный RAG для небольшой команды;
• дообучение моделей;
• общий сервер для AI-разработки.

Преимущества

7443P имеет редкое для доступной старой платформы сочетание: 128 PCIe-линий и восемь каналов памяти при 24 ядрах. Если в приоритете у вас GPU, а сам процессор не выполняет большой объём вычислений, SP3 позволяет собрать серьёзный 2–4 GPU сервер без перехода на более дорогие новые платформы.

Недостатки и ограничения

7443P хорошо чувствует себя в GPU-сервере, пока от CPU не требуют высокой пропускной способности памяти и большого количества параллельных задач. DDR4-3200 даёт 204,8 ГБ/с, поэтому на больших массивах данных новые SP5-процессоры уже ощутимо быстрее. 24 ядер тоже хватает не для каждого сценария: если сервер одновременно обслуживает много пользователей или выполняет тяжёлую процессорную обработку, запас быстро уменьшается.

Инфраструктура

• Платформа: SP3, один сокет.
• Пример материнской платы: Supermicro H12SSL-i.
• RAM: 256–512 ГБ ECC DDR4.
• GPU: 2–4 видеокарты.
• Питание: 2×2000 Вт в резервированной схеме 1+1 для конфигурации с 4×RTX PRO 6000 Blackwell Max-Q.
• Корпус: 4U GPU-шасси.
• Охлаждение CPU: пассивный серверный радиатор с фронтальным потоком воздуха.

AMD EPYC 9354P

• Класс: доступный
• Основной сценарий: односокетный AI-сервер с 2–4 GPU
• Альтернативный сценарий: корпоративный сервер для RAG и запуска моделей

AMD EPYC 9354P — 32-ядерный процессор, с которого начинается уже совсем другой уровень серверной платформы. Платформа SP5 даёт ему 128 линий PCIe 5.0 и 12 каналов DDR5. Пропускная способность памяти достигает 460,8 ГБ/с — более чем вдвое выше, чем у 7443P. Для сервера с несколькими современными GPU это уже хороший запас и под ускорители, и под быстрое хранилище.

Основные характеристики

• 32 ядра / 64 потока;
• базовая частота — 3,25 ГГц, boost — до 3,8 ГГц;
• 128 линий PCIe 5.0;
• 12 каналов DDR5-4800 ECC;
• пропускная способность памяти — 460,8 ГБ/с;
• сокет SP5;
• один процессорный сокет;
• TDP — 280 Вт.

Пример распределения PCIe-линий

Для каких задач

• корпоративный запуск больших языковых моделей;
• RAG с большими базами данных;
• дообучение на нескольких GPU;
• общая AI-инфраструктура для команды.

Преимущества

9354P хорошо подходит для сервера, где основной бюджет идёт в 2–4 GPU, а от CPU нужна сильная платформа без большого запаса ядер. 128 линий PCIe 5.0 оставляют достаточно ресурса для сети и накопителей, а 12 каналов DDR5 хорошо подходят для работы с большим объёмом оперативной памяти.

Недостатки и ограничения

Главный компромисс 9354P — память DDR5-4800. В задачах, где CPU часто работает с большими массивами данных, более новые EPYC с DDR5-6400 дают заметно более высокую пропускную способность. Поэтому 9354P лучше всего выглядит в GPU-сервере, где процессор преимущественно обслуживает ускорители, а не берёт на себя тяжёлую обработку данных.

Инфраструктура

• Платформа: SP5, один сокет.
• Пример материнской платы: GIGABYTE MZ33-CP0.
• RAM: 512 ГБ–1 ТБ ECC DDR5.
• GPU: 2–4 видеокарты.
• Питание: 2×2000 Вт в схеме 1+1.
• Корпус: 4U GPU-шасси.
• Охлаждение CPU: пассивный серверный радиатор с большим потоком воздуха.

AMD EPYC 9355P

• Класс: оптимальный
• Основной сценарий: современный односокетный AI-сервер с 2–4 GPU
• Альтернативный сценарий: сервер для нескольких одновременных AI-сервисов

AMD EPYC 9355P — 32-ядерный серверный процессор для конфигураций с 2–4 GPU. 128 линий PCIe 5.0 оставляют большой запас под ускорители, накопители и сеть, а 12 каналов DDR5-6400 дают 614 ГБ/с пропускной способности памяти. Такой набор хорошо подходит для серверов, где CPU активно работает с большими объёмами данных и одновременно обслуживает несколько видеокарт.

Основные характеристики

• 32 ядра / 64 потока;
• базовая частота — 3,55 ГГц, boost — до 4,4 ГГц;
• 128 линий PCIe 5.0;
• 12 каналов DDR5-6400 ECC;
• пропускная способность памяти — 614 ГБ/с;
• 256 МБ L3-кеша;
• сокет SP5;
• один процессорный сокет;
• TDP — 280 Вт.

Пример распределения PCIe-линий

Для каких задач

• запуск моделей для нескольких пользователей;
• корпоративный RAG;
• дообучение на 2–4 GPU;
• обработка больших наборов данных перед передачей на ускорители.

Преимущества

9355P — хороший выбор, если 32 ядер достаточно, а скорость памяти уже имеет значение. По сравнению с 9354P процессор работает на более высоких частотах, а пропускная способность RAM больше примерно на треть. При этом сохраняется односокетная схема: сервер получается проще, чем двухпроцессорная система, и имеет 128 Gen5-линий для ускорителей и периферии.

Недостатки и ограничения

9355P остаётся платформой PCIe 5.0 и работает только в односокетной конфигурации. Если сервер сразу проектируется под PCIe 6.0 или будущий переход на два процессора, 9356 даёт больше возможностей для такого развития.

Инфраструктура

• Платформа: SP5, один сокет.
• Пример материнской платы: ASRock Rack GENOAD12M3-2Q.
• RAM: 512 ГБ–1 ТБ ECC DDR5-6400.
• GPU: 2–4 видеокарты.
• Питание: 2×2000 Вт в схеме 1+1.
• Корпус: 4U GPU-шасси.
• Охлаждение CPU: пассивный серверный радиатор с высоким потоком воздуха.

AMD EPYC 9356

• Класс: оптимальный
• Основной сценарий: компактный сервер с 2–3 GPU на PCIe 6.0
• Альтернативный сценарий: серверная платформа с возможностью перехода на два процессора

AMD EPYC 9356 — 32-ядерный серверный процессор для систем, где важна высокая скорость обмена данными с GPU. Он даёт 128 линий PCIe 6.0, поддерживает DDR5-8000 и MRDIMM, а пропускная способность памяти может достигать 819,2 ГБ/с. Такой набор хорошо подходит для компактных AI-серверов с несколькими ускорителями и быстрой сетью.

Основные характеристики

• 32 ядра / 64 потока;
• базовая частота — 3,6 ГГц, boost — до 4,5 ГГц;
• 128 линий PCIe 6.0;
• 8 каналов DDR5-8000 RDIMM;
• поддержка MRDIMM-12800;
• пропускная способность памяти — 512 ГБ/с с RDIMM или 819,2 ГБ/с с MRDIMM;
• сокет SP8;
• один или два процессорных сокета;
• TDP — 250 Вт.

Пример распределения PCIe-линий

Для каких задач

• запуск моделей на 2–3 современных GPU;
• корпоративный RAG с большим потоком запросов;
• дообучение моделей;
• серверы с высокими требованиями к скорости памяти и сети.

Преимущества

9356 хорошо подходит для AI-сервера с несколькими GPU, где важна именно скорость обмена данными. 128 линий PCIe 6.0 дают большой запас под ускорители и сеть, а DDR5-8000 и MRDIMM поднимают пропускную способность памяти до уровня, которого 32-ядерному CPU хватает для очень серьёзных серверных конфигураций. Поддержка двух сокетов также позволяет масштабировать систему без перехода на другую платформу.

Недостатки и ограничения

У 9356 всего 8 каналов памяти, поэтому по максимальной ёмкости и ширине RAM-подсистемы он уступает части SP5-моделей с 12 каналами. Если серверу нужен очень большой объём оперативной памяти или нагрузка сильно зависит именно от RAM, стоит смотреть на другие EPYC.

Инфраструктура

• Платформа: SP8, 1P/2P.
• Пример материнской платы: ASRock Rack VENICED16-2L+.
• RAM: 512 ГБ–1 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 2–3 видеокарты.
• Питание: около 2000–2400 Вт для конфигурации с 3×RTX PRO 6000 Blackwell Max-Q.
• Корпус: 2U или 4U серверное шасси под 3 GPU.
• Охлаждение CPU: пассивный серверный радиатор с фронтальным потоком воздуха.

AMD EPYC 9575F

• Класс: специализированный
• Основной сценарий: AI-сервер с 2–4 GPU и высокой нагрузкой на CPU
• Альтернативный сценарий: сервер для совместного запуска моделей и тяжёлой обработки данных

AMD EPYC 9575F — серверный процессор для систем с дорогими GPU, где важно максимально уменьшить задержки со стороны CPU. Его выбирают для серверов, где параллельно с работой ускорителей постоянно идёт подготовка данных и выполняются другие процессорные задачи. Это помогает держать GPU загруженными и стабильнее использовать их производительность.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 3,3 ГГц, boost — до 5 ГГц;
• частота всех ядер — до 4,5 ГГц;
• 128 линий PCIe 5.0;
• 12 каналов DDR5-6400 ECC;
• пропускная способность памяти — 614 ГБ/с;
• сокет SP5, 1P/2P;
• TDP — 400 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на нескольких GPU;
• подготовка больших наборов данных;
• корпоративный запуск моделей для многих пользователей;
• параллельные AI- и CPU-задачи на одном сервере.

Преимущества

9575F стоит брать, когда 32-ядерного серверного CPU уже мало. Здесь 64 ядра работают на высоких частотах, поэтому процессор быстрее справляется с подготовкой данных и другими задачами вокруг GPU. При этом сервер сохраняет 128 PCIe-линий и 12 каналов памяти — ради процессорной производительности не приходится жертвовать возможностями платформы.

Недостатки и ограничения

400 Вт TDP предъявляют более высокие требования к питанию и охлаждению, чем у младших EPYC. Если основную работу стабильно выполняют GPU, а нагрузка на CPU невелика, 64 высокочастотных ядра будут использоваться лишь частично. В такой системе 9355P будет более простым выбором.

Инфраструктура

• Платформа: SP5, 1P/2P.
• Пример материнской платы: GIGABYTE MZ23-SU0.
• RAM: 512 ГБ–1 ТБ ECC DDR5-6400.
• GPU: 2–4 видеокарты.
• Питание: около 2400 Вт для конфигурации с 4× RTX PRO 6000 Blackwell Max-Q.
• Корпус: 4U серверное шасси для 4 GPU.
• Охлаждение CPU: пассивный серверный радиатор с мощным фронтальным потоком воздуха.

AMD EPYC 9576F

• Класс: специализированный
• Основной сценарий: новый AI-сервер с 2–4 GPU и PCIe 6.0
• Альтернативный сценарий: сервер с высокими требованиями к сети и скорости памяти

AMD EPYC 9576F — 64-ядерный преемник 9575F на платформе SP8. Здесь акцент смещается на скорость обмена данными: 128 линий PCIe 6.0, DDR5-8000 и поддержка MRDIMM с пропускной способностью до 819,2 ГБ/с. Сам процессор тоже быстрый — базовая частота составляет 3,55 ГГц, максимальная достигает 5 ГГц.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 3,55 ГГц, boost — до 5 ГГц;
• 384 МБ L3-кеша;
• 128 линий PCIe 6.0;
• 8 каналов DDR5-8000 RDIMM;
• поддержка MRDIMM-12800;
• пропускная способность памяти — 512 или 819,2 ГБ/с;
• сокет SP8, 1P/2P;
• TDP — 400 Вт.

Пример распределения PCIe-линий

Для каких задач

• серверный запуск больших моделей на нескольких GPU;
• дообучение моделей;
• работа с большими потоками данных;
• AI-сервисы с быстрым сетевым обменом между узлами.

Преимущества

9576F хорошо подходит для новой системы, где быстрые интерфейсы планируют использовать сразу. Четыре GPU оставляют достаточно PCIe 6.0 под два сетевых адаптера и NVMe, а MRDIMM существенно поднимает скорость работы с памятью. 64 ядра при этом дают серьёзный запас для процессорной части нагрузки.

Недостатки и ограничения

В SP8 восемь каналов памяти против двенадцати в SP5. Высокую пропускную способность 9576F получает за счёт более быстрых модулей, поэтому конфигурация с MRDIMM имеет наибольший смысл именно там, где эта скорость будет использоваться. TDP 400 Вт также ориентирует процессор на дорогое серверное шасси.

Инфраструктура

• Платформа: SP8, 1P/2P.
• Пример материнской платы: ASRock Rack VENICED16-2L+.
• RAM: 512 ГБ–1 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 2–4 видеокарты.
• Питание: 2400 Вт.
• Корпус: 4U серверное шасси для 4 GPU.
• Охлаждение CPU: пассивный серверный радиатор с высоким потоком воздуха.

Intel Xeon 6527P

• Класс: доступный
• Основной сценарий: корпоративный AI-сервер с 2–4 GPU
• Альтернативный сценарий: сервер с частью AI-вычислений на CPU

Intel Xeon 6527P — 24-ядерный серверный процессор для конфигураций, где основную нагрузку берут на себя GPU. Его стоит брать для 2–4 GPU-сервера, который обслуживает RAG, внутренние AI-сервисы или совместную работу команды. Здесь процессор нужен прежде всего как быстрый и стабильный хост для ускорителей, без переплаты за десятки дополнительных ядер.

Основные характеристики

• 24 ядра / 48 потоков;
• базовая частота — 3,0 ГГц, turbo — до 4,2 ГГц;
• 88 линий PCIe 5.0;
• 8 каналов DDR5-6400 ECC;
• до 4 ТБ оперативной памяти;
• Intel AMX, AVX-512 и DL Boost;
• сокет LGA4710, поддержка 2P;
• TDP — 255 Вт.

Пример распределения PCIe-линий

Для каких задач

• корпоративный запуск моделей;
• RAG для команды;
• дообучение на нескольких GPU;
• AI-задачи с использованием Intel AMX.

Преимущества

6527P хорошо вписывается в сервер, где GPU выполняют большинство AI-вычислений, а процессору нужен умеренный запас производительности. 24 ядра здесь сочетаются с высокими частотами и серверной памятью. Поддержка AMX добавляет ещё один вариант использования CPU для части AI-задач.

Недостатки и ограничения

88 PCIe-линий оставляют меньше свободы, чем 128 у многих EPYC. В конфигурации с четырьмя GPU, быстрой сетью и несколькими NVMe резерв быстро заканчивается. Если сервер планируется активно расширять, это нужно учесть ещё на этапе выбора платформы.

Инфраструктура

• Платформа: LGA4710, 1P/2P.
• Пример материнской платы: Supermicro X14SBH.
• RAM: 256–512 ГБ ECC DDR5-6400.
• GPU: 2–4 видеокарты.
• Питание: 2000–2400 Вт.
• Корпус: 4U серверное шасси.
• Охлаждение CPU: пассивный серверный радиатор с фронтальным потоком воздуха.

Intel Xeon 6767P

• Класс: оптимальный
• Основной сценарий: большой общий AI-сервер
• Альтернативный сценарий: 2P-система с 4–8 GPU

Intel Xeon 6767P — 64-ядерный серверный процессор для больших AI-систем с несколькими GPU и значительной нагрузкой на CPU. Его стоит брать, когда один сервер одновременно обслуживает много пользователей, запускает несколько AI-сервисов и имеет запас для масштабирования до двухпроцессорной конфигурации. Это уже вариант не для отдельной команды, а для общей корпоративной инфраструктуры.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 2,4 ГГц, turbo — до 3,9 ГГц;
• частота всех ядер — до 3,6 ГГц;
• 88 линий PCIe 5.0 на процессор;
• 8 каналов DDR5-6400;
• MRDIMM — до 8000 MT/s;
• до 4 ТБ оперативной памяти на процессор;
• Intel AMX, AVX-512 и DL Boost;
• сокет LGA4710, 2P;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• совместный запуск моделей для большой команды;
• корпоративный RAG с большим количеством одновременных запросов;
• дообучение моделей на нескольких GPU;
• AI-сервисы с большой нагрузкой на CPU.

Преимущества

6767P имеет уже совсем другой масштаб, чем 6527P. 64 ядра лучше подходят для большого количества параллельных процессов, а два сокета позволяют нарастить процессорный ресурс и PCIe до уровня большого GPU-сервера. MRDIMM также поднимает скорость памяти, что полезно при активной работе CPU с данными.

Недостатки и ограничения

В одном сокете всё ещё доступно лишь 88 PCIe-линий. Чтобы построить плотную систему на 8 GPU, уже нужна двухпроцессорная конфигурация и соответствующее серверное шасси. Это увеличивает сложность системы и добавляет NUMA — неравномерный доступ процессоров к локальной памяти и устройствам.

Инфраструктура

• Платформа: LGA4710, 2P.
• Пример материнской платы: Supermicro X14DBM-SP.
• RAM: 1–2 ТБ ECC DDR5 или MRDIMM.
• GPU: 4–8 видеокарт.
• Питание: 4×3000 Вт для большой 8-GPU конфигурации.
• Корпус: 4U GPU-сервер.
• Охлаждение CPU: два пассивных серверных радиатора с высоким потоком воздуха.

↑ К содержанию

AI-процессоры для дата-центра

В дата-центре процессор выбирают уже как часть большого вычислительного узла. Здесь важно, сколько работы берёт на себя CPU, как быстро он обслуживает GPU и насколько плотно такие узлы можно размещать в стойках.

Поэтому в этом классе нет одного универсального лучшего процессора. Одни модели работают как хосты для дорогих ускорителей, другие берут на себя большое количество параллельных сервисов или дают больше ресурсов для масштабирования всего узла.

AMD EPYC 9654

• Класс: доступный (более старое поколение)
• Основной сценарий: расширение дата-центра на платформе SP5
• Альтернативный сценарий: 4–8 GPU узел с заметной нагрузкой на CPU

AMD EPYC 9654 — 96-ядерный серверный процессор для дата-центров, где уже используется платформа SP5. Он хорошо подходит для расширения существующего парка: можно остаться в той же экосистеме серверов и памяти и получить достаточно ресурсов для большого GPU-узла. Для AI это особенно важно там, где обновление всей платформы пока не даёт пропорциональной пользы.

Основные характеристики

• 96 ядер / 192 потока;
• базовая частота — 2,4 ГГц, boost — до 3,7 ГГц;
• 128 линий PCIe 5.0;
• 12 каналов DDR5-4800 ECC;
• пропускная способность памяти — 460,8 ГБ/с;
• 384 МБ L3-кеша;
• сокет SP5, 1P/2P;
• TDP — 360 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей в дата-центре;
• запуск больших моделей на нескольких GPU;
• корпоративные AI-сервисы с большим потоком запросов;
• расширение уже существующей SP5-инфраструктуры.

Преимущества

9654 особенно уместен там, где SP5 уже работает в дата-центре. 96 ядер хватает для серьёзной процессорной части нагрузки, а 128 PCIe-линий позволяют строить большие GPU-узлы. В таком сценарии можно вкладываться в ускорители и расширение системы вместо полной замены платформы.

Недостатки и ограничения

DDR5-4800 и PCIe 5.0 уже уступают более новым поколениям по пропускной способности. Это становится заметнее в узлах с очень быстрой сетью или большим потоком данных между CPU и ускорителями. Для новой инфраструктуры с длинным горизонтом масштабирования уже лучше смотреть на EPYC 9005 или 9006.

Инфраструктура

• Платформа: SP5, 1P/2P.
• Пример материнской платы: Supermicro H13DSG-OM.
• RAM: 1–2 ТБ ECC DDR5.
• GPU: 4–8 ускорителей в серверном шасси.
• Питание: 4×3000 Вт для большой 8-GPU конфигурации.
• Корпус: 4U или 8U GPU-шасси.
• Охлаждение CPU: пассивные серверные радиаторы с высоким потоком воздуха.

AMD EPYC 9965

• Класс: специализированный
• Основной сценарий: высокая плотность AI-сервисов и агентов
• Альтернативный сценарий: большие CPU-нагрузки вокруг GPU-кластера

AMD EPYC 9965 — 192-ядерный процессор для дата-центра, где на CPU приходится большое количество параллельной работы. Его сильная сторона — плотность: один узел может обслуживать много контейнеров, сервисов RAG и агентных процессов, пока GPU-узлы выполняют основные вычисления моделей.

Основные характеристики

• 192 ядра / 384 потока;
• базовая частота — 2,25 ГГц, boost — до 3,7 ГГц;
• 128 линий PCIe 5.0;
• 12 каналов DDR5-6400 ECC;
• пропускная способность памяти — 614 ГБ/с;
• 384 МБ L3-кеша;
• сокет SP5, 1P/2P;
• TDP — 500 Вт.

Пример распределения PCIe-линий

Для каких задач

• запуск большого количества AI-агентов;
• корпоративные RAG-сервисы;
• контейнеры и виртуальные машины вокруг AI;
• обработка запросов между пользователями и GPU-кластером.

Преимущества

9965 позволяет собрать очень плотный CPU-узел. 192 ядра хорошо работают там, где одновременно запускаются сотни процессов и каждому нужен собственный вычислительный ресурс. Это хороший выбор для дата-центра, в котором GPU отвечают за модели, а отдельный слой серверов занимается агентами, RAG и другими вспомогательными сервисами.

Недостатки и ограничения

9965 ориентирован на большое количество параллельных задач, а не на максимальную производительность одного ядра. Для хоста, который должен максимально быстро обслуживать несколько дорогих GPU, высокочастотные модели вроде 9575F или новые 9676F подходят лучше. TDP 500 Вт также нужно учитывать при высокой плотности узлов в стойке.

Инфраструктура

• Платформа: SP5, 1P/2P.
• Пример материнской платы: Supermicro H14SSF.
• RAM: 1–3 ТБ ECC DDR5-6400.
• GPU: 0–2 ускорителя в типовом CPU-heavy узле.
• Питание: 2×1600–2000 Вт с резервированием 1+1.
• Корпус: 2U серверное шасси.
• Охлаждение CPU: пассивный серверный радиатор с высоким потоком воздуха.

AMD EPYC 9676F

• Класс: специализированный
• Основной сценарий: высокопроизводительный хост для GPU
• Альтернативный сценарий: AI-узел с большим потоком данных между CPU и ускорителями

AMD EPYC 9676F — 96-ядерный процессор для дата-центровых узлов, где дорогие GPU должны получать данные максимально быстро. Это уже другой подход, чем у 9965: меньше ядер, зато высокая частота и PCIe 6.0. Такой CPU хорошо подходит для серверов, где процессор постоянно готовит данные, управляет работой ускорителей и должен как можно меньше задерживать весь узел.

Основные характеристики

• 96 ядер / 192 потока;
• базовая частота — 3,1 ГГц, boost — до 5 ГГц;
• 128 линий PCIe 6.0;
• 8 каналов DDR5-8000 RDIMM;
• поддержка MRDIMM-12800;
• пропускная способность памяти — 512 или 819,2 ГБ/с;
• 384 МБ L3-кеша;
• сокет SP8, 1P/2P;
• TDP — 400 Вт.

Пример распределения PCIe-линий

Для каких задач

• большие GPU-узлы для запуска моделей;
• дообучение с высокой нагрузкой на CPU;
• быстрый обмен данными между узлами;
• AI-системы, где важна высокая загруженность ускорителей.

Преимущества

9676F хорошо подходит именно как процессор для дорогого GPU-узла. 96 ядер оставляют большой запас для процессорной работы, а частота до 5 ГГц помогает там, где задержки CPU уже влияют на загрузку ускорителей. PCIe 6.0 даёт вдвое большую пропускную способность на линию по сравнению с Gen5, поэтому быстрая сеть и несколько GPU получают больше ресурса для обмена данными.

Недостатки и ограничения

Восемь каналов памяти делают SP8 менее ёмкой, чем старшие дата-центровые платформы с 12 или 16 каналами. Если главная задача — разместить максимальный объём RAM или получить наибольшую суммарную пропускную способность памяти, SP7-модели подходят лучше. Для CPU-heavy сервисов с сотнями параллельных процессов 9965 также может быть практичнее.

Инфраструктура

• Платформа: SP8, 1P/2P.
• Пример материнской платы: ASRock Rack VENICED16-2L+.
• RAM: 1–2 ТБ DDR5 RDIMM или MRDIMM.
• GPU: 4 ускорителя в референсной конфигурации.
• Питание: около 3200 Вт с резервированием 1+1.
• Корпус: 2U или 4U GPU-шасси.
• Охлаждение CPU: пассивное серверное или жидкостное для плотных узлов.

AMD EPYC 9756

• Класс: специализированный
• Основной сценарий: AI-узел с большим объёмом оперативной памяти и интенсивной работой с данными
• Альтернативный сценарий: 4-GPU сервер с высокой нагрузкой на CPU и RAM

AMD EPYC 9756 — 128-ядерный процессор для дата-центровых систем, в которых скорость работы с памятью имеет не меньшее значение, чем количество ядер. Он подходит для больших наборов данных, CPU-этапов AI-пайплайна и других задач, которые постоянно обращаются к оперативной памяти. Именно под такие нагрузки платформа SP7 получила 16 каналов RAM.

Основные характеристики

• 128 ядер / 256 потоков;
• базовая частота — 3,15 ГГц, boost — до 4 ГГц;
• 512 МБ L3-кеша;
• 96 линий PCIe 6.0;
• 16 каналов DDR5;
• DDR5 RDIMM — до 8000 MT/s;
• MRDIMM — до 12 800 MT/s;
• пропускная способность памяти — до 1024 ГБ/с с RDIMM или 1638 ГБ/с с MRDIMM;
• сокет SP7, 1P/2P;
• TDP — 500 Вт.

Пример распределения PCIe-линий

Для каких задач

• подготовка и обработка больших наборов данных;
• большие RAG-системы с активной работой с памятью;
• дообучение моделей на нескольких GPU;
• AI вместе с HPC и другими тяжёлыми CPU-задачами.

Преимущества

9756 интересен прежде всего своей подсистемой памяти. Шестнадцать каналов дают значительно больше пропускной способности, чем восьмиканальные SP8 или двенадцатиканальные SP5, а 128 ядер позволяют этим ресурсом реально воспользоваться. Такой процессор уместен в системах, где скорость работы с оперативной памятью прямо влияет на темп подготовки данных и общую производительность AI-пайплайна.

Недостатки и ограничения

Главное ограничение SP7 для GPU-конфигураций — 96 PCIe-линий. Четыре ускорителя вместе с сетью и NVMe уже могут использовать весь доступный бюджет. Для систем с большим количеством GPU придётся переходить к серверной архитектуре с PCIe-коммутаторами или отдельным высокоскоростным соединением между ускорителями.

Инфраструктура

• Платформа: SP7, 1P/2P.
• Пример материнской платы: GIGABYTE MD25-CG0.
• RAM: 1–4 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 2–4 ускорителя с прямым подключением к CPU.
• Питание: около 2400–3200 Вт для 4-GPU конфигурации.
• Корпус: 4U серверное шасси.
• Охлаждение CPU: пассивный серверный радиатор с высоким потоком воздуха.

AMD EPYC 9996

• Класс: флагманский
• Основной сценарий: максимальная плотность процессорных вычислений в дата-центре
• Альтернативный сценарий: большие AI-сервисы с сотнями параллельных CPU-процессов

AMD EPYC 9996 — 256-ядерный процессор для задач, где выгодно выполнять как можно больше параллельной работы на одном серверном узле. Это может быть обработка данных перед передачей на GPU, большое количество контейнеров, поисковые и RAG-сервисы или CPU-инференс. В двухпроцессорной системе один сервер получает до 512 физических ядер.

Основные характеристики

• 256 ядер / 512 потоков;
• базовая частота — 2,55 ГГц, boost — до 4,1 ГГц;
• 1 ГБ L3-кеша;
• 96 линий PCIe 6.0;
• 16 каналов DDR5;
• DDR5 RDIMM — до 8000 MT/s;
• MRDIMM — до 12 800 MT/s;
• пропускная способность памяти — до 1024 или 1638 ГБ/с;
• сокет SP7, 1P/2P;
• TDP — 600 Вт.

Пример распределения PCIe-линий

Для каких задач

• массовая параллельная подготовка данных;
• CPU-инференс;
• большие RAG и поисковые системы;
• большое количество контейнеров и виртуальных сред для AI-сервисов.

Преимущества

9996 позволяет резко увеличить вычислительную плотность без наращивания количества серверов. Один процессор даёт 256 ядер, два — 512. Для дата-центра это означает меньше отдельных узлов для задач, которые хорошо распараллеливаются, и возможность выделить значительный CPU-ресурс большому количеству сервисов одновременно.

Недостатки и ограничения

600 Вт на один процессор — уже серьёзная нагрузка на питание и охлаждение стойки, особенно в двухсокетной системе. Второй компромисс — 96 PCIe-линий: в 9996 их столько же, сколько в 9756, хотя процессорных ядер вдвое больше. Поэтому эта модель лучше всего раскрывается в CPU-плотных узлах, а не как основа для максимального количества напрямую подключённых GPU.

Инфраструктура

• Платформа: SP7, 1P/2P.
• Пример материнской платы: Supermicro H15DPH.
• RAM: 2–8 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 0–2 ускорителя в типовой CPU-плотной конфигурации.
• Питание: 2×2000–3200 Вт с резервированием для двухпроцессорного узла.
• Корпус: 1U или 2U серверное шасси.
• Охлаждение CPU: высокопроизводительное воздушное или жидкостное охлаждение для плотных 2P-узлов.

Intel Xeon 6960P

• Класс: специализированный
• Основной сценарий: дата-центровый AI-узел с высокой нагрузкой на CPU
• Альтернативный сценарий: AI и HPC с использованием Intel AMX

Intel Xeon 6960P — 72-ядерный процессор для дата-центровых систем с высокой нагрузкой на CPU. Его стоит рассматривать для AI-узлов, где процессор регулярно берёт на себя подготовку данных, обработку запросов и другие задачи, чувствительные к скорости отдельных ядер. Это делает 6960P сильным вариантом для смешанных AI- и HPC-нагрузок.

Основные характеристики

• 72 ядра / 144 потока;
• базовая частота — 2,7 ГГц;
• частота всех ядер — до 3,8 ГГц;
• максимальная частота — до 3,9 ГГц;
• 432 МБ кеша;
• 96 линий PCIe 5.0;
• 12 каналов DDR5;
• DDR5 RDIMM — до 6400 MT/s;
• MRDIMM — до 8800 MT/s;
• до 3 ТБ памяти на процессор;
• Intel AMX, AVX-512, DL Boost;
• сокет LGA7529, 2P;
• TDP — 500 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей с большой нагрузкой на CPU;
• подготовка и преобразование данных;
• AI-инференс с использованием AMX;
• смешанные AI и HPC-нагрузки.

Преимущества

6960P занимает интересное место среди Xeon 6900P. У него 72 ядра, но частота всех ядер достигает 3,8 ГГц — заметно выше, чем у более многоядерных 6980P. Поэтому он имеет смысл для задач, где более быстрые отдельные потоки дают больше пользы, чем переход с 72 на 128 ядер.

Недостатки и ограничения

96 линий PCIe 5.0 ограничивают прямое подключение большого количества ускорителей. Четыре GPU, быстрая сеть и четыре NVMe уже забирают весь бюджет. TDP 500 Вт также довольно высокий для 72-ядерной модели, поэтому 6960P имеет смысл именно там, где его высокие частоты реально используются.

Инфраструктура

• Платформа: LGA7529, 1P/2P.
• Пример материнской платы: Supermicro X14DBG-DAP.
• RAM: 1–3 ТБ ECC DDR5 RDIMM/MRDIMM.
• GPU: 4–8 ускорителей в сервере с PCIe-коммутаторами.
• Питание: около 3000–6000 Вт в зависимости от количества GPU.
• Корпус: 4U GPU-сервер.
• Охлаждение CPU: пассивные серверные радиаторы или жидкостное охлаждение для плотной 2P-конфигурации.

Intel Xeon 6980P

• Класс: флагманский
• Основной сценарий: большой AI-узел с несколькими GPU и тяжёлой процессорной нагрузкой
• Альтернативный сценарий: AI + HPC, подготовка данных и другие хорошо распараллеливаемые задачи

Intel Xeon 6980P — 128-ядерный процессор для дата-центровых узлов, в которых значительная часть работы остаётся на CPU. Он уместен, когда вместе с несколькими ускорителями на одном сервере выполняются подготовка данных, индексация, симуляции или другие тяжёлые многопоточные задачи. В такой конфигурации можно сконцентрировать больше работы в одном узле вместо выноса процессорных этапов на отдельные серверы.

Основные характеристики

• 128 ядер / 256 потоков;
• базовая частота — 2,0 ГГц;
• частота всех ядер — до 3,2 ГГц, максимальная — до 3,9 ГГц;
• 504 МБ кеша;
• 96 линий PCIe 5.0;
• 12 каналов DDR5;
• DDR5 RDIMM — до 6400 MT/s;
• MRDIMM — до 8800 MT/s;
• до 3 ТБ RAM на процессор;
• Intel AMX, AVX-512, DL Boost;
• LGA7529, 2P;
• TDP — 500 Вт.

Пример распределения PCIe-линий

Для каких задач

• дообучение моделей на нескольких GPU;
• подготовка и преобразование больших наборов данных;
• AI + HPC;
• большие RAG-системы с тяжёлой процессорной частью.

Преимущества

По сравнению с 6960P эта модель добавляет ещё 56 ядер, но сохраняет ту же 12-канальную память и 96 PCIe-линий. Если ваши задачи хорошо масштабируются на большое количество потоков, 6980P позволяет заметно нарастить процессорный ресурс без перехода на другую платформу. AMX также полезен для части инференса и других матричных вычислений на CPU.

Недостатки и ограничения

За дополнительные ядра приходится поступиться частотой: 6980P держит до 3,2 ГГц на всех ядрах против 3,8 ГГц у 6960P. Количество PCIe-линий при этом не увеличивается — их всё те же 96. Поэтому для узла с преимущественно GPU-нагрузкой переход с 6960P на 6980P сам по себе не даёт больше возможностей для подключения ускорителей.

Инфраструктура

• Платформа: LGA7529, 1P/2P.
• Пример материнской платы: Supermicro X14DBG-XAP.
• RAM: 1–3 ТБ ECC DDR5 RDIMM/MRDIMM.
• GPU: 4–8 ускорителей.
• Питание: 4×3000 Вт для большой 8-GPU конфигурации.
• Корпус: 4U GPU-сервер.
• Охлаждение CPU: пассивные серверные радиаторы с высоким потоком воздуха или жидкостное охлаждение.

Intel Xeon 6990E+

• Класс: специализированный
• Основной сценарий: максимальное количество параллельных AI-сервисов на одном узле
• Альтернативный сценарий: контейнеры, RAG, агенты и инференс-сервисы в дата-центре

Intel Xeon 6990E+ — 288-ядерный процессор для дата-центров, где главная задача — обслуживать как можно больше параллельных процессов на одном сервере. Такой подход хорошо работает для большого количества контейнеров, RAG-сервисов, AI-агентов и инференс-запросов. Вместо высокой производительности отдельного ядра эта модель даёт очень большое суммарное количество вычислительных ресурсов в пределах одного сокета.

Основные характеристики

• 288 E-ядер / 288 потоков;
• базовая частота — 2,2 ГГц;
• частота всех ядер — до 2,8 ГГц, максимальная — до 3,2 ГГц;
• 576 МБ кеша;
• 96 линий PCIe 5.0;
• 12 каналов DDR5-8000;
• до 1,5 ТБ RAM на процессор;
• поддержка двух сокетов;
• LGA7529;
• TDP — 450 Вт;
• дополнительный режим 330 Вт с более низкой базовой частотой.

Пример распределения PCIe-линий

Для каких задач

• большое количество AI-агентов;
• RAG и поисковые сервисы;
• массовый инференс;
• контейнеры и виртуализированные AI-среды;
• бэкенд большой AI-платформы.

Преимущества

Главная причина выбрать 6990E+ — 288 физических ядер в одном сокете. Это позволяет разместить на одном сервере очень много независимых сервисов и распределять между ними отдельные ядра без постоянной конкуренции за процессорное время. Для дата-центра с тысячами параллельных запросов или большим парком контейнеров такая плотность чрезвычайно важна.

Недостатки и ограничения

6990E+ использует E-ядра без Hyper-Threading, а максимальная частота составляет 3,2 ГГц. Он также не поддерживает AMX и AVX-512, которые есть у Xeon 6900P. Поэтому для тяжёлой матричной работы без GPU или задач, чувствительных к производительности одного потока, лучше подходят P-core модели. PCIe здесь остался Gen5 с 96 линиями — количество ядер выросло намного сильнее, чем возможности подключения ускорителей.

Инфраструктура

• Платформа: LGA7529, 1P/2P.
• Пример материнской платы: Supermicro X14DBM-AP.
• RAM: 768 ГБ–1,5 ТБ DDR5-8000 на процессор.
• GPU: 0–2 ускорителя в типовом CPU-плотном узле.
• Питание: 2×1600–2000 Вт с резервированием 1+1.
• Корпус: 1U или 2U серверное шасси.
• Охлаждение CPU: пассивный серверный радиатор с высоким потоком воздуха.

Intel Xeon Platinum 8592+

• Класс: доступный (более старое поколение)
• Основной сценарий: расширение существующей AI-инфраструктуры на LGA4677
• Альтернативный сценарий: 2–4 GPU узел с поддержкой Intel AMX

Intel Xeon Platinum 8592+ — 64-ядерный процессор для дата-центров, где уже работают серверы на платформе LGA4677. Его главный сценарий сегодня — расширение или модернизация существующей инфраструктуры без перехода на Xeon 6 и новый сокет. Это позволяет дольше использовать серверы поколения C741 там, где их возможностей для AI ещё достаточно.

Основные характеристики

• 64 ядра / 128 потоков;
• базовая частота — 1,9 ГГц, boost — до 3,9 ГГц;
• 320 МБ кеша;
• 80 линий PCIe 5.0;
• 8 каналов DDR5-5600 ECC;
• до 4 ТБ RAM на процессор;
• Intel AMX, AVX-512, DL Boost;
• LGA4677, 2P;
• TDP — 350 Вт.

Пример распределения PCIe-линий

Для каких задач

• расширение существующего GPU-кластера;
• корпоративный инференс;
• RAG и внутренние AI-сервисы;
• AI-задачи с использованием AMX;
• смешанные AI и серверные нагрузки.

Преимущества

8592+ имеет наибольший смысл там, где LGA4677 уже закуплена и работает. В этом случае можно получить 64 ядра, большой объём RAM и AMX, не меняя весь серверный парк. Платформа также поддерживает двухпроцессорные конфигурации, поэтому её запас для больших существующих систем всё ещё существенный.

Недостатки и ограничения

По сравнению с Xeon 6 разница в платформе уже заметна: 80 PCIe-линий вместо 96, восемь каналов памяти вместо двенадцати и DDR5-5600 вместо DDR5-6400/MRDIMM. Четыре GPU почти полностью занимают его PCIe-бюджет. Поэтому для нового дата-центрового узла 8592+ стоит рассматривать прежде всего тогда, когда совместимость с уже существующей LGA4677 важнее запаса на следующие годы.

Инфраструктура

• Платформа: LGA4677, 1P/2P.
• Пример материнской платы: Supermicro X13DEG-OA.
• RAM: 512 ГБ–2 ТБ ECC DDR5-5600.
• GPU: 2–4 ускорителя с прямым подключением, до 8 в специализированном GPU-сервере.
• Питание: 2×2000–2400 Вт для 4-GPU конфигурации.
• Корпус: 4U GPU-сервер.
• Охлаждение CPU: пассивные серверные радиаторы с фронтальным потоком воздуха.

↑ К содержанию

Ноутбуки для AI на AMD Ryzen AI Max

Ноутбуки на Ryzen AI Max — это мобильные системы с мощной интегрированной графикой и большим объёмом памяти, общей для CPU и GPU. Именно память делает их особенно интересными для локального AI: вместо отдельных 16, 24 или 32 ГБ VRAM графический ускоритель может получить значительно большую часть общей RAM.

В Ryzen AI Max+ 395 доступно до 128 ГБ LPDDR5X, из которых до 96 ГБ можно выделить графике. Процессор также имеет 16 ядер Zen 5 и Radeon 8060S с 40 вычислительными блоками. Такая конфигурация позволяет запускать локально даже 4-битные LLM с более чем 100 млрд параметров (100B).

В 2026 году появился Ryzen AI Max+ PRO 495, который поднял максимальный объём общей памяти до 192 ГБ. Графике можно выделить до 160 ГБ — это уже запас для очень больших локальных моделей, который в мобильном компьютере ещё недавно был практически недоступен.

Характеристики процессоров Ryzen AI Max

Почему Ryzen AI Max интересен для локального AI

Главное преимущество этой платформы — необычайная для портативной техники ёмкость моделей. Если LLM требует, например, 60–80 ГБ памяти, обычная мобильная видеокарта уже не подходит независимо от её скорости. Ryzen AI Max может отдать графике значительно больший объём общей памяти и запустить такую модель локально.

Особенно хорошо это работает с квантизированными LLM и VLM. Ryzen AI Max+ 395 со 128 ГБ памяти и 96 ГБ, выделенными графике, поддерживает 4-битные модели до 128 млрд параметров. Для Max+ PRO 495 со 192 ГБ общей памяти максимальный доступный графике объём возрастает уже до 160 ГБ.

NPU, или нейронный процессор, отвечает здесь преимущественно за отдельные локальные AI-функции и программы, которые умеют его использовать. Для запуска больших языковых моделей более важную роль играют видеокарты Radeon 8060S/8065S и большой объём общей памяти. Именно эта связка даёт Ryzen AI Max его главное преимущество в локальном AI.

Для каких AI-задач подходит ноутбук Ryzen AI Max

Такой ноутбук особенно удобен для специалиста, который работает в локальной AI-среде в дороге или на территории клиента. К его задачам относятся:

• локальный запуск LLM и VLM;
• RAG с корпоративными документами;
• разработка и тестирование AI-агентов;
• работа с моделями без постоянного подключения к облаку;
• демонстрация AI-решений у клиента;
• прототипирование перед запуском модели на сервере;
• локальная работа с конфиденциальными данными;
• лёгкое и параметр-эффективное дообучение моделей.

Например, HP ZBook Ultra G1a в конфигурации с Ryzen AI Max+ PRO 395 и 128 ГБ памяти позволяет выделить до 96 ГБ для графики. Такой запас уже позволяет работать с большими локальными LLM, RAG и AI-агентами без подключения к отдельному серверу.

Ещё один вариант — ASUS ProArt PX13 на Ryzen AI Max+ 395. Он имеет 32 ГБ памяти и SSD на 1 ТБ, и больше подходит для компактных локальных LLM, RAG, AI-агентов и разработки в дороге.

Преимущества ноутбуков Ryzen AI Max для AI

• Большой объём памяти в мобильном формате. 96 ГБ доступной графике памяти в Max+ 395 или до 160 ГБ в Max+ PRO 495 открывают класс моделей, который для обычных ноутбучных GPU недоступен.
• Один компьютер для разработки и запуска модели. На нём можно писать код, работать с данными, запускать локальный RAG или LLM и сразу тестировать готовое приложение.
• Работа без постоянного доступа к серверу. Разработчик может работать в дороге, у клиента или в среде, где данные не должны покидать локальное устройство.
• Компактность. Ноутбук на Ryzen AI Max можно использовать как полноценную локальную AI-среду без отдельного системного блока, внешней GPU или подключения к серверу. Его можно брать в командировку, на встречи с клиентами или работать с большими моделями вне офиса.

Ограничения ноутбука для AI

Ryzen AI Max имеет большой объём памяти, но по скорости вычислений уступает рабочим станциям с мощными дискретными GPU. Это особенно заметно во время дообучения моделей, длительного инференса и других задач с постоянной высокой нагрузкой.

Есть и другие практические ограничения:

• нет возможности добавить вторую или третью GPU — вычислительная конфигурация фактически фиксирована;
• RAM не всегда можно расширить после покупки, поэтому нужный объём памяти лучше выбирать сразу;
• длительная нагрузка ограничена возможностями охлаждения ноутбука — большая стационарная система лучше отводит тепло и дольше удерживает высокую производительность;
• пропускная способность общей памяти ниже, чем у профессиональных дискретных GPU с HBM или GDDR, поэтому большая модель может поместиться в память, но работать медленнее;
• возможности апгрейда в целом минимальны: обычно можно заменить накопитель, но CPU, GPU и память остаются частью одной платформы.

Поэтому Ryzen AI Max лучше всего подходит как персональная мобильная система для локального AI. Для постоянной тяжёлой нагрузки, нескольких GPU и дальнейшего масштабирования лучше подходит рабочая станция или сервер.

Ноутбук Ryzen AI Max или рабочая станция?

Если вам нужно брать большую локальную модель с собой, Ryzen AI Max имеет очевидное преимущество. Для постоянной работы под высокой нагрузкой и дальнейшего наращивания GPU лучше подходит рабочая станция.

Персональные AI-ноутбуки или общий сервер

Здесь выбор уже зависит от количества людей. Для одного разработчика персональный AI-ноутбук даёт собственный ресурс: модель и среда всегда доступны, эксперименты других пользователей не занимают вычислительную мощность, а работу можно продолжить вне офиса.

Для небольшой команды несколько таких ноутбуков тоже могут быть удобными, особенно если каждый специалист работает со своими моделями и проектами.

Общий AI-сервер становится более логичным, когда одна и та же инфраструктура нужна многим пользователям. Сервер можно оборудовать несколькими GPU, централизованно хранить модели и данные и распределять вычислительный ресурс между командой. Он также проще масштабируется с ростом количества пользователей.

Поэтому Ryzen AI Max не заменяет сервер. Он решает другую задачу — даёт одному специалисту много памяти для локального AI в мобильном компьютере. Для разработчика, который регулярно работает с большими моделями вне серверной инфраструктуры, именно это может быть главной причиной выбрать такой ноутбук.

↑ К содержанию

AI-процессоры по сценариям использования

↑ К содержанию

Какой процессор выбрать для AI

В бизнес-логике выбор CPU для AI стоит оценивать через стоимость всей системы, её загрузку и будущее масштабирование. Правильно подобранная платформа помогает эффективнее использовать бюджет на GPU и дольше обходиться без полной перестройки инфраструктуры.

Для рационального использования бюджета придерживайтесь таких принципов:

1. Отдавайте большую часть сметы GPU, если основные вычисления выполняют именно они. Для системы с 1–2 ускорителями часто нет смысла переплачивать за 64–96 ядер CPU. Эти деньги могут дать больший эффект в более сильной GPU, большем объёме VRAM или втором ускорителе.
2. Закладывайте масштабирование на этапе первой сборки. Если сегодня нужны две GPU, а через год — четыре, более дешёвая платформа может потребовать замены процессора, материнской платы и части инфраструктуры. В таком случае более дорогая платформа с большим запасом PCIe-линий может быть выгоднее двух последовательных апгрейдов.
3. Считайте количество пользователей. Персональная AI-станция хорошо работает для одного специалиста. Для команды централизованный сервер часто выгоднее: GPU, модели и данные используются совместно, а вычислительный ресурс можно распределять между несколькими людьми.
4. Не допускайте простоя дорогих GPU из-за слабой платформы. Если процессор, память или PCIe не успевают подавать данные, ускорители используются не на полную. В системе с несколькими профессиональными GPU экономия на CPU может стоить дороже, чем более сильная серверная или HEDT-платформа.
5. Учитывайте горизонт эксплуатации. Для системы на 2–3 года более старая платформа может быть вполне рациональной. Если инфраструктура должна пережить несколько поколений GPU, больший запас PCIe-линий, более новая версия интерфейса и более быстрая память дадут больше свободы для апгрейда.
6. Разделяйте персональный и командный AI. Ryzen AI Max или GB10 могут быть очень выгодными для отдельного разработчика с большими локальными моделями. Для постоянной работы команды тот же бюджет часто лучше вкладывать в общий сервер.
7. Считайте полную стоимость платформы. Более дорогой CPU может потребовать другой платы, большего объёма памяти, более мощного питания и более сложного охлаждения. Поэтому сравнивать стоит не цены процессоров, а стоимость готовых систем под одинаковую нагрузку.

В CompX вы можете заказать готовые решения и отдельные компоненты для AI-систем — от персональных рабочих станций до серверов и сложных многовидеокартных конфигураций. Наши специалисты подберут процессор, GPU, память, накопители и другую инфраструктуру точно под ваши задачи, бюджет и планы на развитие.

Мы готовы работать с масштабными и нестандартными проектами, где важно правильно сбалансировать производительность всей системы. Обращайтесь в CompX, чтобы обсудить будущую конфигурацию, а также получить смету и коммерческое предложение под ваш проект.

↑ К содержанию

Частые вопросы

Насколько важен процессор для AI, если основные вычисления выполняет GPU?

CPU готовит данные, обслуживает накопители, сеть и сами GPU. В хорошо сбалансированной системе он не ускоряет модель напрямую, но слабый CPU может снижать загрузку дорогих ускорителей.

Может ли слабый процессор ограничивать производительность дорогой видеокарты в AI?

Да. Это случается при активной подготовке данных, большом количестве параллельных задач или нехватке PCIe-линий и пропускной способности памяти.

Сколько ядер процессора нужно для AI?

Для 1–2 GPU часто достаточно 16–32 ядер. Для 3–4 GPU, серверов и тяжёлой подготовки данных целесообразно 32–64 ядра и более. Сотни ядер нужны уже для больших серверных и дата-центровых нагрузок.

Что важнее для AI-процессора: количество ядер или высокая частота?

Зависит от задачи. Высокая частота важна для слабо распараллеливаемых процессов, а большое количество ядер — для подготовки данных, контейнеров, параллельных сервисов и других многопоточных задач.

Сколько PCIe-линий нужно для двух, трёх или четырёх GPU?

Две GPU на x16 требуют 32 линии, три — 48, четыре — 64. Дополнительно нужен запас для NVMe, сетевых карт, DPU и другого оборудования.

Обязательно ли подключать GPU через PCIe x16, или для AI достаточно x8?

Не всегда нужен x16. Для многих AI-нагрузок PCIe x8 достаточно, особенно если модель преимущественно работает в VRAM. x16 полезнее при частом обмене большими объёмами данных между CPU и GPU.

Когда обычного Ryzen/Core достаточно, а когда уже нужен Threadripper, Xeon или EPYC?

Ryzen/Core достаточно для одной GPU. Для 2–4 GPU и большого количества PCIe-устройств лучше Threadripper или Xeon W. Для общего сервера, большого объёма RAM и круглосуточной нагрузки — EPYC или серверный Xeon.

Threadripper или EPYC: что лучше для системы с несколькими GPU?

Threadripper лучше подходит для персональной рабочей станции. EPYC — для сервера, где важны большой объём RAM, серверная платформа, удалённое управление и постоянная работа под нагрузкой.

Можно ли запускать LLM только на процессоре без GPU?

Да. Но скорость сильно зависит от модели и пропускной способности памяти. CPU-only хорошо подходит для небольших моделей, тестов и задач, где скорость инференса не критична.

От чего зависит скорость LLM на CPU: количества ядер, частоты или пропускной способности RAM?

Для больших LLM особенно важна пропускная способность памяти. Количество ядер и частота тоже влияют, но после определённого уровня именно RAM часто становится главным ограничением.

Для чего нужен NPU и может ли он запускать большие языковые модели вместо GPU?

NPU предназначен для энергоэффективных локальных AI-функций и программ, которые его поддерживают. Для больших LLM основную нагрузку обычно берёт GPU или интегрированная графика с большим объёмом общей памяти.

Что лучше для локального AI: Ryzen AI Max, ARM-система на NVIDIA GB10 или рабочая станция с дискретной GPU?

Ryzen AI Max — для мобильной работы и большой общей памяти. GB10 — для компактной настольной системы со 128 ГБ памяти и готовым NVIDIA-стеком. Рабочая станция с дискретной GPU — для максимальной скорости, апгрейда и нескольких ускорителей.