Енциклопедія AI-процесорів: як вибрати CPU для робочої станції, сервера та дата-центра

Поширений сценарій: відеокарти вартістю в кілька мільйонів гривень ледве витягують AI-задачі, хоча підібрані точно за вимогами пайплайну. Типова причина — невідповідний процесор. Він може бути дорогим, входити до престижної лінійки, мати високу частоту й багато кешу, але замало PCIe-ліній для обслуговування всієї системи.

Так, відеокарти досі є основними виконавцями роботи в AI-системах. Водночас процесор готує й передає дані, бере на себе системні задачі та визначає, скільки GPU, пам’яті й додаткових пристроїв можна нормально підключити до платформи. Тому вибір CPU для AI — це фактично вибір інфраструктури, на якій працюватимуть дорогі прискорювачі сьогодні та після масштабування системи.

У цій статті ми розберемо процесори для персональних робочих станцій, AI-серверів і дата-центрів, ARM-системи для штучного інтелекту та ноутбуки на Ryzen AI Max.

Зміст

1. Які процесори підходять для AI
2. Для робочої станції
3. Готові ARM-системи та платформи
4. Для сервера
5. Для дата-центра
6. Ноутбуки на Ryzen AI Max
7. За сценаріями використання
8. Який процесор вибрати
9. Часті запитання (FAQ)

Які процесори підходять для AI

Процесор для AI — це CPU, характеристики якого дозволяють повноцінно обслуговувати прискорювачі для роботи штучного інтелекту.

Важливо відрізняти спеціалізовані AI-системи від процесорів для AI. Перші — це готові системи, в яких процесор, графічний прискорювач і пам’ять спроєктовані для спільної роботи з AI-навантаженнями. Другі — універсальні комп’ютерні процесори, які підходять за характеристиками для AI-збірок, хоча могли створюватися для значно ширшого кола задач.

Характеристики процесорів для AI

При виборі CPU оцінюйте саме ті характеристики, які прямо впливають на роботу AI-системи та можливості її подальшого розширення.

Для станції з однією відеокартою часто достатньо сучасного десктопного CPU та повноцінного PCIe x16. HEDT (високопродуктивна десктопна платформа) стає особливо корисною при переході до двох і більше GPU, коли системі вже потрібен значно більший запас PCIe та пам’яті.

У серверному сегменті слід оцінювати уже всю конфігурацію в комплексі. Материнська плата, шасі та PCIe-комутатори визначають, скільки прискорювачів можна підключити та яку пропускну здатність вони реально отримають.

Що враховувати при виборі AI-процесора

Вибір починається з конфігурації системи. Для однієї відеокарти вимоги до CPU відносно помірні. Якщо плануєте дві або чотири GPU, уже треба рахувати PCIe-лінії, дивитися на можливості материнської плати та залишати запас для подальшого розширення.

Також врахуйте характер AI-навантаження:

• Локальний inference — запуск уже навченої моделі — переважно навантажує GPU, тому CPU тут потрібен насамперед як стабільна основа системи.
• Fine-tuning, тобто донавчання готової моделі, сильніше залежить від швидкості подачі даних і роботи сховища. Для великих наборів даних важливими стають пропускна здатність RAM і швидкі NVMe.
• RAG — генерація відповіді з пошуком у власній базі знань — додає роботу з документами, векторною базою та іншими сервісами. Частина такого навантаження припадає на CPU.
• Якщо одна система обслуговує команду, запас процесорних ресурсів потрібен уже для кількох одночасних запитів і фонових процесів.

Оцініть масштабування. Якщо сьогодні достатньо двох GPU, але через рік система має вирости до чотирьох, дешевше одразу взяти платформу з потрібною кількістю PCIe-ліній і слотів. Те саме стосується оперативної пам’яті: робоча станція на 128 ГБ і сервер із можливістю встановити 1–2 ТБ вирішують різні задачі.

Для серверів і дата-центрів додаються вимоги до безперервної роботи, мережі та щільності обладнання. Тут уже важливі підтримка ECC-пам’яті, один або два процесорні сокети, можливість підключення швидких мережевих адаптерів і сумарне енергоспоживання вузла.

Ще один критерій — архітектура процесора. Більшість робочих станцій і серверів побудовані на x86, але для AI дедалі частіше використовують ARM-платформи. Вони відрізняються не лише CPU, а й підходом до побудови всієї системи, тому перед переходом на ARM варто перевірити сумісність потрібного ПЗ та визначити, чи підходить така платформа під ваш сценарій масштабування.

Як ми відбирали AI-процесори

До списку потрапили процесори, корисні саме для AI-систем. Ми оцінювали продуктивність CPU разом із можливостями платформи: кількістю PCIe-ліній, пропускною здатністю пам’яті, підтримкою кількох GPU та доступними материнськими платами або серверними шасі.

Для різних класів систем критерії відбору відрізняються:

• Робоча станція — продуктивність CPU, кількість GPU та запас для подальшого розширення.
• Сервер — I/O, обсяг пам’яті, стабільна робота під постійним навантаженням і можливість обслуговувати кількох користувачів.
• Дата-центр — щільність системи, енергоспоживання, мережеве підключення та масштабування на кілька вузлів.

У добірці є й процесори попередніх поколінь. Старіший Threadripper PRO або EPYC може залишатися хорошою основою для AI, якщо платформа дає достатньо PCIe-ліній і пам’яті, а її загальна вартість помітно нижча за нове покоління. У такому сценарії вивільнений бюджет можна спрямувати на додаткову GPU, більший обсяг RAM або накопичувачі.

Для кожної моделі ми також визначили основний сценарій використання. Одні CPU краще підходять для multi-GPU робочих станцій, інші — для серверів із дорогими прискорювачами або великої кількості паралельних сервісів у дата-центрі. За цими ролями процесори й розподілені далі.

↑ До змісту

AI-процесори для робочої станції

AI-робоча станція — це персональна система для локальної роботи з моделями, де обчислення виконуються на одній або кількох відеокартах. Такий формат підходить розробникам, дослідникам і невеликим командам, яким потрібен власний ресурс без окремої серверної інфраструктури.

Для конфігурацій з однією або двома GPU зазвичай достатньо HEDT-платформи на кшталт TRX50. Якщо планується три-чотири відеокарти, більше значення вже мають кількість PCIe-ліній, канали пам’яті та фізичні можливості материнської плати. У такому випадку краще одразу дивитися на WRX80, WRX90 або професійні Intel-платформи.

Далі ми зібрали процесори різних поколінь і класів — від доступних рішень для перших multi-GPU станцій до актуальних high-end моделей для систем із великим запасом на масштабування.

AMD Ryzen Threadripper PRO 5955WX

• Клас: доступний
• Основний сценарій: бюджетна multi-GPU робоча станція
• Альтернативний сценарій: невеликий AI-сервер або лабораторний стенд

AMD Ryzen Threadripper PRO 5955WX — 16-ядерний процесор покоління Zen 3 для платформи WRX80. Його головна цінність для AI — 128 ліній PCIe 4.0 та 8 каналів DDR4. Цього достатньо для повноцінної системи з кількома відеокартами, якщо 16 CPU-ядер відповідають вашому навантаженню.

Основні характеристики

• 16 ядер / 32 потоки;
• частота до 4,5 ГГц;
• 128 ліній PCIe 4.0;
• 8 каналів DDR4-3200 з ECC;
• до 2 ТБ оперативної пам’яті;
• сокет sWRX8;
• TDP — 280 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• локальний запуск великих моделей на кількох GPU;
• донавчання моделей;
• RAG і робота з великими наборами даних;
• AI-розробка з помітним навантаженням на CPU.

Переваги

5955WX цікавий як доступний вхід у професійну платформу WRX80. Якщо в пріоритеті у вас друга, третя або четверта GPU, а 16 ядер достатньо для робочого пайплайну, ця модель дозволяє спрямувати більшу частину бюджету саме на прискорювачі та оперативну пам’ять.

Недоліки та обмеження

WRX80 використовує DDR4 і PCIe 4.0, тому пропускна здатність нижча, ніж у сучасних WRX90-систем. 16 ядер швидше стануть обмеженням у задачах із важкою попередньою обробкою даних (preprocessing) або великою кількістю паралельних CPU-процесів.

Інфраструктура

• Платформа: WRX80, сокет sWRX8.
• Приклад материнської плати: ASUS Pro WS WRX80E-SAGE SE WiFi.
• RAM: 256–512 ГБ ECC DDR4 для типової multi-GPU AI-станції.
• GPU: 2–4 відеокарти для multi-GPU AI-станції.
• Живлення: близько 2000 Вт для 4×RTX PRO 6000 Blackwell Max-Q.
• Корпус: full tower або workstation chassis, розрахований на 4 dual-slot GPU.
• Охолодження CPU: 360 мм AIO або кулер з великою контактною пластиною.

AMD Ryzen Threadripper PRO 5975WX

• Клас: оптимальний (старіше покоління)
• Основний сценарій: 2–4 GPU; робоча станція з помітним навантаженням на CPU
• Альтернативний сценарій: локальний AI-вузол для невеликої команди

AMD Ryzen Threadripper PRO 5975WX — 32-ядерний Zen 3, який зберігає всі сильні сторони WRX80 і дає вдвічі більше ядер за 5955WX. Для AI це цікава середина старої професійної лінійки: 128 PCIe 4.0 дозволяють розмістити кілька прискорювачів, а 32 ядра вже дають хороший запас для роботи з даними та фонових процесів.

Основні характеристики

• 32 ядра / 64 потоки;
• базова частота — 3,6 ГГц, boost — до 4,5 ГГц;
• 128 ліній PCIe 4.0;
• 8 каналів DDR4-3200 з ECC;
• до 2 ТБ оперативної пам’яті;
• сокет sWRX8;
• TDP — 280 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на кількох GPU;
• локальний запуск великих мовних моделей;
• обробка великих наборів даних перед передаванням на GPU;
• кілька паралельних AI-процесів на одній станції.

Переваги

5975WX виглядає особливо цікаво там, де 5955WX уже замало за процесорною продуктивністю, а перехід на сучасну WRX90-платформу поки не входить у пріоритети. Ви отримуєте ті самі 128 PCIe-ліній і восьмиканальну пам’ять, але 32 ядра дають системі значно більше свободи для CPU-частини пайплайну. Якщо у пріоритеті у вас кілька GPU та розумний розподіл бюджету між компонентами, це один із найсильніших доступних варіантів у добірці.

Недоліки та обмеження

WRX80 працює з PCIe 4.0 і DDR4-3200. Для сучасних високошвидкісних накопичувачів, мережевих адаптерів і подальшого масштабування WRX90 уже пропонує помітно більший запас пропускної здатності.

Інфраструктура

• Платформа: WRX80, сокет sWRX8.
• Приклад материнської плати: GIGABYTE MC62-G40.
• RAM: 256–512 ГБ ECC DDR4; для великих наборів даних можна йти вище.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: full tower або workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 360 мм AIO або кулер з великою контактною пластиною.

AMD Ryzen Threadripper PRO 5995WX

• Клас: спеціалізований (старіше покоління)
• Основний сценарій: AI-станція, де поряд із GPU постійно завантажений CPU
• Альтернативний сценарій: розробка, моделювання та інші професійні задачі на одній multi-GPU системі

AMD Ryzen Threadripper PRO 5995WX — 64-ядерний флагман покоління Zen 3 на платформі WRX80. У нього той самий великий PCIe-бюджет, що й у молодших 5000 WX, але вже 64 ядра / 128 потоків і 256 МБ L3-кешу. Через це 5995WX варто розглядати там, де процесор справді виконує значну частину роботи поряд із GPU.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 2,7 ГГц, boost — до 4,5 ГГц;
• 128 ліній PCIe 4.0;
• 8 каналів DDR4-3200 з ECC;
• до 2 ТБ оперативної пам’яті;
• сокет sWRX8;
• TDP — 280 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• AI-пайплайни з інтенсивною попередньою обробкою даних;
• донавчання моделей на кількох GPU;
• генерація синтетичних даних і паралельні CPU-обчислення;
• комбінована робоча станція для AI, рендерингу або моделювання.

Переваги

У 5995WX є конкретна причина переплачувати порівняно з 5975WX: вам потрібні саме 64 ядра. Наприклад, одна система одночасно готує великі масиви даних, запускає допоміжні CPU-процеси та обслуговує кілька прискорювачів. У такій конфігурації 64 ядра реально прискорюють процесорну частину пайплайну — підготовку даних, паралельні процеси та інші багатопотокові задачі.

Недоліки та обмеження

Якщо основну роботу виконують GPU, 64 ядра 5995WX використовуватимуться не повністю, тому тут логічніше дивитися на молодші моделі WRX80. Платформа також зберігає обмеження свого покоління: DDR4-3200 і PCIe 4.0.

Інфраструктура

• Платформа: WRX80, сокет sWRX8.
• Приклад материнської плати: ASRock WRX80 Creator R2.0.
• RAM: 512 ГБ–1 ТБ ECC DDR4 для CPU-heavy AI-сценаріїв.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: full tower або workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 360/420 мм AIO або професійне рідинне охолодження.

AMD Ryzen Threadripper 7960X

• Клас: доступний сучасний HEDT
• Основний сценарій: персональна AI-станція з 1–2 GPU
• Альтернативний сценарій: AI-розробка з активною роботою на CPU

AMD Ryzen Threadripper 7960X — 24-ядерний процесор Zen 4 для AI-станцій з однією або двома GPU. Він підтримує 88 доступних PCIe-ліній, до 48 ліній PCIe 5.0 та чотириканальну DDR5 ECC RDIMM. Така конфігурація дає достатньо ресурсів для двох прискорювачів, швидких NVMe і мережевого адаптера без переходу на дорожчу платформу Threadripper PRO.

Основні характеристики

• 24 ядра / 48 потоків;
• базова частота — 4,2 ГГц, boost — до 5,3 ГГц;
• 92 PCIe-лінії загалом / 88 доступних;
• до 48 ліній PCIe 5.0;
• 4 канали DDR5-5200 ECC RDIMM;
• до 1 ТБ оперативної пам’яті на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• локальний запуск моделей на одній або двох GPU;
• донавчання на персональній AI-станції;
• розробка й тестування AI-застосунків;
• підготовка даних із помірним навантаженням на CPU.

Переваги

7960X — хороший крок угору після звичайної десктопної платформи. Він дає двом GPU повноцінні x16, залишає швидкі Gen5-лінії для NVMe та мережі й пропонує 24 швидкі ядра Zen 4. Для спеціаліста, якому потрібна сильна локальна система без переходу до схеми 4-GPU, це оптимальний клас процесора.

Недоліки та обмеження

TRX50 добре підходить для 1–2 GPU. Для системи на 3–4 відеокарти більш логічно переходити на WRX90, де більше PCIe-ліній і вдвічі більше каналів пам’яті.

Інфраструктура

• Платформа: TRX50, сокет sTR5.
• Приклад материнської плати: GIGABYTE TRX50 AERO D.
• RAM: 128–256 ГБ ECC DDR5; для великих робочих наборів — до 512 ГБ і вище.
• GPU: 1–2 відеокарти.
• Живлення: близько 1600 Вт для 2×RTX PRO 6000 Blackwell Max-Q.
• Корпус: full tower або workstation chassis для 2 потужних GPU.
• Охолодження CPU: 360 мм AIO або висококласний кулер.

AMD Ryzen Threadripper 7980X

• Клас: спеціалізований
• Основний сценарій: 1–2 GPU AI-станція з важкою CPU-частиною пайплайну
• Альтернативний сценарій: універсальна workstation для AI та професійних багатопотокових задач

AMD Ryzen Threadripper 7980X поєднує 64 ядра Zen 4 із компактнішою за PRO-серію платформою TRX50. Його сильна сторона — велика продуктивність у системі, якій достатньо однієї або двох GPU. Це цікавий варіант для робочого місця, де поруч із AI регулярно виконуються компіляція, моделювання, підготовка великих масивів даних або інші багатопотокові задачі.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 3,2 ГГц, boost — до 5,1 ГГц;
• 92 PCIe-лінії загалом / 88 доступних;
• до 48 ліній PCIe 5.0;
• 4 канали DDR5-5200 ECC RDIMM;
• до 1 ТБ оперативної пам’яті на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• підготовка та перетворення великих наборів даних;
• донавчання моделей на 1–2 GPU;
• генерація синтетичних даних;
• AI разом із рендерингом, моделюванням або компіляцією великих проєктів.

Переваги

7980X варто брати для AI-станції, де процесор регулярно отримує важкі багатопотокові задачі. Наприклад, він краще підійде для підготовки великих наборів даних, генерації синтетичних даних або паралельної роботи кількох CPU-процесів. Для системи, де основне навантаження стабільно припадає на 1–2 GPU, 7960X буде раціональнішим вибором.

Недоліки та обмеження

7980X не розширює можливості TRX50 порівняно з молодшими Threadripper 7000: ті самі 88 доступних PCIe-ліній і чотири канали пам’яті. Для чистої multi-GPU задачі перехід на Threadripper PRO може дати системі більше користі, ніж додаткові CPU-ядра.

Інфраструктура

• Платформа: TRX50, сокет sTR5.
• Приклад материнської плати: ASRock TRX50 WS.
• RAM: 256–512 ГБ ECC DDR5 для великих CPU-side workload.
• GPU: 1–2 відеокарти.
• Живлення: 1600 Вт.
• Корпус: full tower або workstation chassis для 2 потужних GPU.
• Охолодження CPU: 360/420 мм AIO, особливо для тривалих багатопотокових навантажень.

AMD Ryzen Threadripper PRO 7975WX

• Клас: оптимальний (старіше покоління)
• Основний сценарій: професійна AI-станція з 2–4 GPU
• Альтернативний сценарій: робоча станція для AI та обробки великих масивів даних

AMD Ryzen Threadripper PRO 7975WX — 32-ядерний Zen 4 для платформи WRX90. За кількістю ядер він близький до 5975WX, але вже працює з DDR5 та PCIe 5.0. Для multi-GPU систем особливо важливі 128 ліній PCIe 5.0 і восьмиканальна пам’ять: чотири прискорювачі займають лише половину доступного Gen5-пулу.

Основні характеристики

• 32 ядра / 64 потоки;
• базова частота — 4,0 ГГц, boost — до 5,3 ГГц;
• 148 PCIe-ліній загалом / 144 доступні;
• 128 ліній PCIe 5.0;
• 8 каналів DDR5-5200 ECC RDIMM;
• до 2 ТБ оперативної пам’яті на WRX90;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на 2–4 GPU;
• локальна робота з великими мовними та генеративними моделями;
• підготовка великих наборів даних;
• паралельна робота кількох AI-процесів.

Переваги

7975WX добре підходить для 4-GPU станції, якій потрібен сильний CPU без переходу до дорожчого класу із 64 або 96 ядер. Усі моделі Threadripper PRO 7000 WX верхнього класу мають однакову платформу WRX90, тому 32-ядерний 7975WX зберігає той самий великий PCIe-бюджет і восьмиканальну пам’ять, що й дорожчі процесори серії.

Недоліки та обмеження

За тієї ж кількості ядер актуальний 9975WX уже використовує Zen 5 і DDR5-6400. Тому 7975WX краще вибирати в тих випадках, коли платформа попереднього покоління обходиться відчутно дешевше.

Інфраструктура

• Платформа: WRX90, сокет sTR5.
• Приклад материнської плати: ASUS Pro WS WRX90E-SAGE SE.
• RAM: 256–512 ГБ ECC DDR5; для великих робочих наборів — 1 ТБ.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: full tower або workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 360/420 мм AIO або потужний кулер.

AMD Ryzen Threadripper PRO 7995WX

• Клас: флагманський (старіше покоління)
• Основний сценарій: multi-GPU AI-станція з великим процесорним навантаженням
• Альтернативний сценарій: універсальна workstation для AI, рендерингу та інженерних розрахунків

AMD Ryzen Threadripper PRO 7995WX — 96-ядерний флагман Zen 4 і перший Threadripper PRO з такою кількістю ядер. Він орієнтований на станції, де CPU працює багато годин поряд із кількома GPU: готує дані, виконує симуляції або обслуговує інші багатопотокові процеси.

Основні характеристики

• 96 ядер / 192 потоки;
• базова частота — 2,5 ГГц, boost — до 5,1 ГГц;
• 148 PCIe-ліній загалом / 144 доступні;
• 128 ліній PCIe 5.0;
• 8 каналів DDR5-5200 ECC RDIMM;
• до 2 ТБ оперативної пам’яті на WRX90;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• інтенсивна попередня обробка даних для AI;
• генерація синтетичних наборів даних;
• донавчання моделей на кількох GPU;
• одночасна робота AI, рендерингу та інженерного ПЗ.

Переваги

7995WX варто брати тоді, коли 4-GPU станції потрібен ще й дуже сильний CPU. 96 ядер дають великий запас для підготовки даних, симуляцій, рендерингу та інших багатопотокових задач. Платформа WRX90 зберігає повний набір можливостей для multi-GPU конфігурації.

Недоліки та обмеження

7995WX має сенс розглядати лише для задач, які добре масштабуються на десятки ядер. У GPU-heavy системі значна частина його 96 ядер простоюватиме, хоча PCIe-можливості залишаються такими самими, як у 7975WX. До того ж це Zen 4 із DDR5-5200: актуальний 9995WX уже пропонує Zen 5 і DDR5-6400.

Інфраструктура

• Платформа: WRX90, сокет sTR5.
• Приклад материнської плати: ASRock WRX90 WS EVO.
• RAM: 512 ГБ–1 ТБ ECC DDR5; платформа підтримує до 2 ТБ.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 420 мм AIO або кастомний рідинний контур для тривалого багатопотокового навантаження.

AMD Ryzen Threadripper 9960X

• Клас: оптимальний
• Основний сценарій: актуальна AI-станція з 1–2 GPU
• Альтернативний сценарій: локальна AI-розробка з активним використанням CPU

AMD Ryzen Threadripper 9960X — 24-ядерний Zen 5 для сучасних робочих станцій з 1–2 GPU. Порівняно з 7960X він зберігає той самий клас продуктивності, але підтримує DDR5-6400 і до 80 ліній PCIe 5.0. Це дає більше швидкісних інтерфейсів для GPU, накопичувачів і мережі без переходу на Threadripper PRO.

Основні характеристики

• 24 ядра / 48 потоків;
• базова частота — 4,2 ГГц, boost — до 5,4 ГГц;
• 92 PCIe-лінії загалом / 88 доступні;
• до 80 ліній PCIe 5.0;
• 4 канали DDR5-6400 ECC RDIMM;
• до 1 ТБ оперативної пам’яті на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• локальний inference на одній або двох GPU;
• донавчання моделей;
• розробка AI-застосунків;
• підготовка даних із помірним навантаженням на CPU.

Переваги

9960X — сильний варіант для нової 2-GPU станції, якщо 24 ядер вистачає для процесорної частини роботи. У порівнянні з Threadripper 7000 платформа має більше Gen5-ліній і швидшу пам’ять. Це особливо корисно, коли поряд із двома GPU використовуються кілька швидких NVMe або мережевий адаптер.

Недоліки та обмеження

TRX50 залишається чотириканальною платформою з 88 доступними PCIe-лініями. Для 3–4 GPU та великого запасу під подальше розширення краще підходить WRX90.

Інфраструктура

• Платформа: TRX50, сокет sTR5.
• Приклад материнської плати: Supermicro H13SRA-TF.
• RAM: 128–256 ГБ ECC DDR5-6400; для великих робочих наборів — 512 ГБ.
• GPU: 1–2 відеокарти.
• Живлення: 1600 Вт.
• Корпус: full tower або workstation chassis для 2 потужних GPU.
• Охолодження CPU: 360 мм AIO або великий кулер.

AMD Ryzen Threadripper 9980X

• Клас: спеціалізований
• Основний сценарій: 1–2 GPU AI-станція з високим навантаженням на CPU
• Альтернативний сценарій: локальна workstation для AI, компіляції та обчислювальних задач

AMD Ryzen Threadripper 9980X — 64-ядерний Zen 5 для потужної AI-станції з однією або двома GPU. Його варто брати, коли велика частина роботи регулярно залишається на CPU: підготовка даних, компіляція, моделювання або кілька важких процесів одночасно. Платформа TRX50 дає 80 ліній PCIe 5.0 і DDR5-6400, тому двом прискорювачам вистачає пропускної здатності, а решта ресурсів залишається під швидкі накопичувачі та мережу.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 3,2 ГГц, boost — до 5,4 ГГц;
• 92 PCIe-лінії загалом / 88 доступні;
• до 80 ліній PCIe 5.0;
• 4 канали DDR5-6400 ECC RDIMM;
• до 1 ТБ оперативної пам’яті на TRX50;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• великі обсяги попередньої обробки даних;
• генерація синтетичних даних;
• AI разом із компіляцією або моделюванням;
• кілька важких CPU-процесів поряд із 1–2 GPU.

Переваги

9980X має сенс там, де TRX50 за кількістю GPU повністю влаштовує, але 24 ядра 9960X уже не відповідають процесорному навантаженню. 64 ядра дозволяють залишити AI та важкі CPU-задачі на одній робочій станції без переходу на дорожчу PRO-платформу.

Недоліки та обмеження

Кількість PCIe-ліній і каналів пам’яті в 9980X така сама, як у молодших Threadripper 9000. Тому 64 ядра збільшують саме CPU-продуктивність, а масштаб системи за кількістю GPU залишається в класі TRX50.

Інфраструктура

• Платформа: TRX50, сокет sTR5.
• Приклад материнської плати: GIGABYTE TRX50 AI TOP.
• RAM: 256–512 ГБ ECC DDR5-6400.
• GPU: 1–2 відеокарти.
• Живлення: 1600 Вт.
• Корпус: full tower або workstation chassis для 2 потужних GPU.
• Охолодження CPU: 420 мм AIO або рідинний контур для тривалого навантаження.

AMD Ryzen Threadripper PRO 9975WX

• Клас: оптимальний
• Основний сценарій: професійна AI-станція з 2–4 GPU
• Альтернативний сценарій: локальний AI-вузол для команди

AMD Ryzen Threadripper PRO 9975WX — 32-ядерний Zen 5, який добре підходить саме для multi-GPU станцій. Чотири відеокарти займають 64 із 128 ліній PCIe 5.0, тому великий запас залишається під накопичувачі та швидку мережу. Вісім каналів DDR5-6400 додають пропускної здатності там, де CPU активно працює з великими наборами даних.

Основні характеристики

• 32 ядра / 64 потоки;
• базова частота — 4,0 ГГц, boost — до 5,4 ГГц;
• 148 PCIe-ліній загалом / 144 доступні;
• 128 ліній PCIe 5.0;
• 8 каналів DDR5-6400 ECC RDIMM;
• до 2 ТБ оперативної пам’яті на актуальних WRX90-платформах;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на 2–4 GPU;
• локальний запуск великих мовних моделей;
• корпоративна AI-розробка на окремій робочій станції;
• підготовка та обробка великих наборів даних.

Переваги

9975WX особливо добре виглядає в 4-GPU системі. Він дає той самий великий PCIe-пул і восьмиканальну пам’ять, що й старші Threadripper PRO 9000 WX, а 32 ядер вистачає для більшості задач навколо GPU. Порівняно з 7975WX тут уже є Zen 5 і DDR5-6400. Якщо основні гроші в конфігурації мають піти саме на прискорювачі, цей процесор буде найбільш збалансованим серед усіх моделей у добірці.

Недоліки та обмеження

32 ядра можуть стати межею для станції, де поряд із AI постійно виконуються важкі симуляції, рендеринг або великий обсяг CPU-обчислень. Для системи лише з однією GPU можливості WRX90, навпаки, використовуватимуться частково.

Інфраструктура

• Платформа: WRX90, сокет sTR5.
• Приклад материнської плати: GIGABYTE MH53-G40.
• RAM: 256–512 ГБ ECC DDR5-6400; для великих робочих наборів — 1 ТБ.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 360/420 мм AIO або кастомна рідинна система.

AMD Ryzen Threadripper PRO 9995WX

• Клас: флагманський
• Основний сценарій: 4-GPU AI-станція з високим навантаженням на CPU
• Альтернативний сценарій: універсальна робоча станція для AI та важких професійних обчислень

AMD Ryzen Threadripper PRO 9995WX — 96-ядерний флагман Zen 5 для станцій, де багато роботи припадає і на GPU, і на процесор. Його 96 ядер / 192 потоки потрібні для важкої підготовки даних, симуляцій, компіляції або кількох великих CPU-задач одночасно.

Основні характеристики

• 96 ядер / 192 потоки;
• базова частота — 2,5 ГГц, boost — до 5,4 ГГц;
• 148 PCIe-ліній загалом / 144 доступні;
• 128 ліній PCIe 5.0;
• 8 каналів DDR5-6400 ECC RDIMM;
• до 2 ТБ оперативної пам’яті на типових WRX90-платформах;
• сокет sTR5;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей із великим обсягом CPU-обробки;
• генерація та підготовка великих наборів даних;
• AI разом із симуляціями або рендерингом;
• кілька важких обчислювальних процесів на одній 4-GPU станції.

Переваги

9995WX потрібен там, де чотирьом GPU регулярно допомагає дуже сильний CPU. Якщо дані треба активно перетворювати перед подачею на прискорювачі або паралельно виконуються інші багатопотокові задачі, 96 ядер стають вирішальним фактором. При цьому переходити на серверну платформу заради такого CPU-навантаження ще не потрібно.

Недоліки та обмеження

За PCIe та пам’яттю 9995WX майже нічого не додає до 9975WX — обидві моделі працюють у межах WRX90. Тому для GPU-heavy AI доплата за 96 ядер виправдана тільки тоді, коли процесорна частина пайплайну справді велика.

Інфраструктура

• Платформа: WRX90, сокет sTR5.
• Приклад материнської плати: Supermicro H13SRH.
• RAM: 512 ГБ–1 ТБ ECC DDR5-6400.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: великий workstation chassis або 4U-корпус.
• Охолодження CPU: 420 мм AIO або професійна рідинна система.

Intel Xeon w9-3495X

• Клас: оптимальний (старіше покоління)
• Основний сценарій: професійна AI-станція з 2–4 GPU
• Альтернативний сценарій: робоча станція з помітною часткою AI-обчислень на CPU

Intel Xeon w9-3495X — 56-ядерний процесор для великих workstation на платформі W790. Його сильна сторона для AI — 112 ліній PCIe 5.0: після підключення чотирьох GPU залишається достатньо ресурсу для швидкої мережі та NVMe. Восьмиканальна DDR5 підтримує великі обсяги пам’яті, а Intel AMX додає прискорення для частини матричних обчислень безпосередньо на CPU.

Основні характеристики

• 56 ядер / 112 потоків;
• базова частота — 1,9 ГГц, turbo — до 4,8 ГГц;
• 112 ліній PCIe 5.0;
• 8 каналів DDR5-4800 ECC;
• до 4 ТБ оперативної пам’яті;
• Intel AMX, AVX-512 та DL Boost;
• сокет LGA4677;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на 2–4 GPU;
• локальний запуск великих моделей;
• AI inference із використанням Intel AMX;
• AI-проєкти з великим обсягом оперативної пам’яті.

Переваги

w9-3495X досі може використовуватися для 4-GPU станції: 112 Gen5-ліній дають достатній запас для периферії, а 56 ядер вистачає для серйозного процесорного навантаження. Особливо доречний він у бізнесі, де вже є W790-системи або використовуються оптимізовані під Intel CPU інструменти. У такому випадку перехід на новішу платформу потрібен лише тоді, коли її додаткові можливості справді будуть використані.

Недоліки та обмеження

DDR5-4800 уже поступається новим платформам за пропускною здатністю. Для нової збірки w9-3495X має сенс, якщо W790-платформа помітно дешевша за актуальні рішення й при цьому її можливостей достатньо для вашої конфігурації.

Інфраструктура

• Платформа: W790, сокет LGA4677.
• Приклад материнської плати: Supermicro X13SWA-TF.
• RAM: 512 ГБ–1 ТБ ECC DDR5; за потреби платформа дозволяє йти до кількох терабайтів.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 360/420 мм AIO або рідинна система для LGA4677.

Intel Xeon 698X

• Клас: флагманський
• Основний сценарій: сучасна Intel AI-станція з 4 GPU
• Альтернативний сценарій: робоча станція з великим CPU-навантаженням

Intel Xeon 698X — 86-ядерний флагман серії Xeon 600 для робочих станцій. Intel має 128 ліній PCIe 5.0, DDR5-6400 і підтримку MRDIMM-8000. Для 4-GPU AI-системи це означає великий запас I/O без переходу в серверний сегмент.

Основні характеристики

• 86 ядер / 172 потоки;
• базова частота — 2,0 ГГц, turbo — до 4,8 ГГц;
• 128 ліній PCIe 5.0;
• 8 каналів DDR5-6400;
• підтримка MRDIMM-8000;
• до 4 ТБ оперативної пам’яті;
• Intel AMX, AVX-512 та DL Boost;
• сокет LGA4710;
• TDP — 350 Вт, максимальна Turbo Power — 420 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на 4 GPU;
• важка попередня обробка великих наборів даних;
• CPU inference з Intel AMX;
• AI разом із симуляціями, компіляцією та іншими багатопотоковими задачами.

Переваги

698X — повноцінна відповідь Intel на Threadripper PRO. Чотири GPU займають 64 із 128 PCIe-ліній, тому в системі залишається багато ресурсу для мережі та швидкого сховища. 86 ядер додають сенсу такій конфігурації, якщо CPU теж регулярно працює під великим навантаженням.

Недоліки та обмеження

698X — дуже дорогий за ресурсами CPU вибір для системи, де майже всю роботу виконують відеокарти. Для такого сценарію можна взяти молодший Xeon 600 і зберегти ті самі можливості W890. Якщо ж система має вирости до двох процесорів або 8 GPU, уже потрібна серверна платформа.

Інфраструктура

• Платформа: W890, сокет LGA4710.
• Приклад материнської плати: GIGABYTE MW94-RP0.
• RAM: 512 ГБ–1 ТБ ECC DDR5 або MRDIMM.
• GPU: 2–4 відеокарти.
• Живлення: 2000 Вт.
• Корпус: workstation chassis для 4 dual-slot GPU.
• Охолодження CPU: 420 мм AIO або професійна рідинна система.

↑ До змісту

Готові AI-системи та платформи на ARM-архітектурі

AI-системи на ARM-архітектурі — це готові обчислювальні платформи на процесорах іншого типу, ніж звичні x86-моделі Intel і AMD. ARM використовує інший набір команд і добре підходить для компактних та енергоефективних систем, де CPU, GPU і пам’ять тісно інтегровані між собою. У готових AI-платформах це дозволяє об’єднати основні компоненти в одну систему замість окремого підбору процесора, відеокарти та пам’яті.

Найпопулярніші персональні ARM-системи для AI сьогодні побудовані на NVIDIA GB10 Grace Blackwell. Цей чип поєднує 20-ядерний ARM-процесор із графікою Blackwell і 128 ГБ уніфікованої LPDDR5X із пропускною здатністю 273 ГБ/с. CPU та GPU працюють зі спільним пулом пам’яті, тому система може запускати значно більші моделі, ніж типова робоча станція з однією відеокартою на 24–48 ГБ.

Одна система на GB10 розрахована на локальний інференс моделей до 200 млрд (200B) параметрів і донавчання моделей до 70 млрд. Для низькоточних AI-обчислень FP4 продуктивність сягає 1 PFLOP. У результаті компактна система підходить для роботи з великими LLM, RAG, агентами та локального тестування моделей перед перенесенням на сервер.

Коли вибрати ARM-систему для AI

ARM-система на GB10 найкраще підходить для персональної локальної роботи з великими моделями, коли повнорозмірна багатовідеокартна станція не потрібна. Вибирайте такий формат, якщо:

• потрібно локально запускати LLM, яким уже мало 24–48 ГБ пам’яті звичайної відеокарти;
• розробнику або досліднику потрібна власна AI-машина для інференсу, RAG, агентів і донавчання;
• моделі та корпоративні дані мають залишатися всередині компанії;
• потрібна готова компактна система з налаштованим стеком NVIDIA замість самостійного складання робочої станції;
• один вузол планується згодом доповнити другим і розподіляти великі моделі між двома системами.

GB10 працює на ARM64 і вже підтримує основні AI-інструменти: PyTorch, TensorRT-LLM, NVIDIA NIM та інший софт екосистеми NVIDIA. Тому для типових задач із локальними моделями, RAG і AI-агентами платформа вже готова до роботи.

Які системи з ARM-процесорами для AI купити

Більшість актуальних персональних ARM-систем цього класу використовують однаковий NVIDIA GB10 і 128 ГБ пам’яті. Тому основна різниця між моделями — накопичувач, виконання та комплектація.

Скориставшись каталогом CompX, ви можете купити в Україні такі готові ARM-системи:

• GIGABYTE AI TOP ATOM ATAGB10-9000. Найцікавіша версія AI TOP ATOM для роботи з великим локальним набором моделей і даних. SSD на 4 ТБ PCIe 5.0 дає достатньо місця для кількох LLM, баз знань і робочих проєктів без постійного перенесення файлів.
• GIGABYTE AI TOP ATOM ATAGB10-9001. Також має 4 ТБ пам’яті для зберігання даних, але використовує SSD PCIe 4.0. Підходить для тих самих великих локальних AI-проєктів, якщо максимальна швидкість накопичувача не є пріоритетом.
• GIGABYTE AI TOP ATOM ATAGB10-9002. Версія з SSD на 1 ТБ для розробника, який зберігає великі датасети на сервері або NAS. Обчислювальні можливості GB10 і 128 ГБ уніфікованої пам’яті при цьому залишаються такими самими.
• PNY NVIDIA DGX Spark EU. Референсна система NVIDIA з 4 ТБ NVMe та готовим DGX OS. Добре підходить компаніям, які хочуть використовувати однаковий програмний стек від персональної машини розробника до великих серверних GPU-систем.
• PNY NVIDIA DGX Spark Bundle EU. Комплект із двох DGX Spark для розподіленої роботи з моделями до 405 млрд параметрів. Кожен вузол має власні 128 ГБ пам’яті, а обчислення розподіляються між ними через ConnectX-7.
• ASUS Ascent GX10. Компактна система на тому самому GB10 із 128 ГБ уніфікованої пам’яті. Варіант для персональної AI-розробки, локального інференсу та роботи з великими моделями у готовому форм-факторі від ASUS.

ARM у серверах і дата-центрах

У серверному сегменті ARM використовується вже в значно потужніших системах. Один із головних прикладів — NVIDIA Grace CPU Superchip: 144 ядра, до 960 ГБ LPDDR5X і пропускна здатність пам’яті до 1 ТБ/с. Такі процесори підходять для AI, HPC і задач, де потрібно швидко обробляти великі обсяги даних.

Наступний крок — Grace Blackwell. Тут процесор Grace працює разом із GPU Blackwell через NVLink-C2C. Наприклад, GB200 Grace Blackwell Superchip поєднує 72-ядерний CPU і два прискорювачі Blackwell в одному модулі.

Для дата-центрів NVIDIA масштабує цю схему до рівня цілої стійки. GB200 NVL72 містить 36 процесорів Grace і 72 GPU Blackwell. Тобто ARM-платформи можуть працювати і як компактні персональні AI-системи, і як основа великих обчислювальних кластерів.

↑ До змісту

AI-процесори для сервера

AI-сервер — це окремий обчислювальний вузол, ресурсом якого користується команда або корпоративні сервіси. Тут процесор обслуговує кілька GPU, роботу з даними й одночасні запити. Тому для сервера особливо важливі PCIe-лінії, пропускна здатність пам’яті та можливість працювати під тривалим навантаженням.

AMD EPYC 7443P

• Клас: доступний (старіше покоління)
• Основний сценарій: бюджетний AI-сервер з 2–4 GPU
• Альтернативний сценарій: сервер для локального RAG та спільного запуску моделей

AMD EPYC 7443P — 24-ядерний серверний процесор покоління Milan на платформі SP3. Для сучасного AI він цікавий насамперед своїми 128 лініями PCIe 4.0. Навіть у чотирикартковій конфігурації залишається великий запас під мережу та накопичувачі. Вісім каналів DDR4 дають 204,8 ГБ/с пропускної здатності пам’яті — скромніше за нові EPYC, але цілком придатно для бюджетного GPU-сервера.

Основні характеристики

• 24 ядра / 48 потоків;
• базова частота — 2,85 ГГц, boost — до 4,0 ГГц;
• 128 ліній PCIe 4.0;
• 8 каналів DDR4-3200 ECC;
• пропускна здатність пам’яті — 204,8 ГБ/с;
• сокет SP3;
• один процесорний сокет;
• TDP — 200 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• локальний запуск моделей на кількох GPU;
• корпоративний RAG для невеликої команди;
• донавчання моделей;
• спільний сервер для AI-розробки.

Переваги

7443P має рідкісне для доступної старої платформи поєднання: 128 PCIe-ліній і вісім каналів пам’яті при 24 ядрах. Якщо у пріоритеті у вас GPU, а сам процесор не виконує великий обсяг обчислень, SP3 дозволяє зібрати серйозний 2–4 GPU сервер без переходу на дорожчі нові платформи.

Недоліки та обмеження

7443P добре почувається в GPU-сервері, поки від CPU не вимагають високої пропускної здатності пам’яті та великої кількості паралельних задач. DDR4-3200 дає 204,8 ГБ/с, тому на великих масивах даних нові SP5-процесори вже відчутно швидші. 24 ядер теж вистачає не для кожного сценарію: якщо сервер одночасно обслуговує багато користувачів або виконує важку процесорну обробку, запас швидко зменшується.

Інфраструктура

• Платформа: SP3, один сокет.
• Приклад материнської плати: Supermicro H12SSL-i.
• RAM: 256–512 ГБ ECC DDR4.
• GPU: 2–4 відеокарти.
• Живлення: 2×2000 Вт у резервованій схемі 1+1 для конфігурації з 4×RTX PRO 6000 Blackwell Max-Q.
• Корпус: 4U GPU-шасі.
• Охолодження CPU: пасивний серверний радіатор із фронтальним потоком повітря.

AMD EPYC 9354P

• Клас: доступний
• Основний сценарій: односокетний AI-сервер з 2–4 GPU
• Альтернативний сценарій: корпоративний сервер для RAG та запуску моделей

AMD EPYC 9354P — 32-ядерний процесор, з якого починається вже зовсім інший рівень серверної платформи. Платформа SP5 дає йому 128 ліній PCIe 5.0 та 12 каналів DDR5. Пропускна здатність пам’яті сягає 460,8 ГБ/с — більш ніж удвічі вище, ніж у 7443P. Для сервера з кількома сучасними GPU це вже хороший запас і під прискорювачі, і під швидке сховище.

Основні характеристики

• 32 ядра / 64 потоки;
• базова частота — 3,25 ГГц, boost — до 3,8 ГГц;
• 128 ліній PCIe 5.0;
• 12 каналів DDR5-4800 ECC;
• пропускна здатність пам’яті — 460,8 ГБ/с;
• сокет SP5;
• один процесорний сокет;
• TDP — 280 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• корпоративний запуск великих мовних моделей;
• RAG із великими базами даних;
• донавчання на кількох GPU;
• спільна AI-інфраструктура для команди.

Переваги

9354P добре підходить для сервера, де основний бюджет іде у 2–4 GPU, а від CPU потрібна сильна платформа без великого запасу ядер. 128 ліній PCIe 5.0 залишають достатньо ресурсу для мережі та накопичувачів, а 12 каналів DDR5 добре підходять для роботи з великим обсягом оперативної пам’яті.

Недоліки та обмеження

Головний компроміс 9354P — пам’ять DDR5-4800. У задачах, де CPU часто працює з великими масивами даних, новіші EPYC із DDR5-6400 дають помітно вищу пропускну здатність. Тому 9354P найкраще виглядає у GPU-сервері, де процесор переважно обслуговує прискорювачі, а не бере на себе важку обробку даних.

Інфраструктура

• Платформа: SP5, один сокет.
• Приклад материнської плати: GIGABYTE MZ33-CP0.
• RAM: 512 ГБ–1 ТБ ECC DDR5.
• GPU: 2–4 відеокарти.
• Живлення: 2×2000 Вт у схемі 1+1.
• Корпус: 4U GPU-шасі.
• Охолодження CPU: пасивний серверний радіатор із великим потоком повітря.

AMD EPYC 9355P

• Клас: оптимальний
• Основний сценарій: сучасний односокетний AI-сервер з 2–4 GPU
• Альтернативний сценарій: сервер для кількох одночасних AI-сервісів

AMD EPYC 9355P — 32-ядерний серверний процесор для конфігурацій з 2–4 GPU. 128 ліній PCIe 5.0 залишають великий запас під прискорювачі, накопичувачі та мережу, а 12 каналів DDR5-6400 дають 614 ГБ/с пропускної здатності пам’яті. Такий набір добре підходить для серверів, де CPU активно працює з великими обсягами даних і водночас обслуговує кілька відеокарт.

Основні характеристики

• 32 ядра / 64 потоки;
• базова частота — 3,55 ГГц, boost — до 4,4 ГГц;
• 128 ліній PCIe 5.0;
• 12 каналів DDR5-6400 ECC;
• пропускна здатність пам’яті — 614 ГБ/с;
• 256 МБ L3-кешу;
• сокет SP5;
• один процесорний сокет;
• TDP — 280 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• запуск моделей для кількох користувачів;
• корпоративний RAG;
• донавчання на 2–4 GPU;
• обробка великих наборів даних перед передаванням на прискорювачі.

Переваги

9355P — хороший вибір, якщо 32 ядер достатньо, а швидкість пам’яті вже має значення. Порівняно з 9354P процесор працює на вищих частотах, а пропускна здатність RAM більша приблизно на третину. При цьому зберігається односокетна схема: сервер виходить простішим, ніж двопроцесорна система, і має 128 Gen5-ліній для прискорювачів та периферії.

Недоліки та обмеження

9355P залишається платформою PCIe 5.0 і працює тільки в односокетній конфігурації. Якщо сервер одразу проєктується під PCIe 6.0 або майбутній перехід на два процесори, 9356 дає більше можливостей для такого розвитку.

Інфраструктура

• Платформа: SP5, один сокет.
• Приклад материнської плати: ASRock Rack GENOAD12M3-2Q.
• RAM: 512 ГБ–1 ТБ ECC DDR5-6400.
• GPU: 2–4 відеокарти.
• Живлення: 2×2000 Вт у схемі 1+1.
• Корпус: 4U GPU-шасі.
• Охолодження CPU: пасивний серверний радіатор із високим потоком повітря.

AMD EPYC 9356

• Клас: оптимальний
• Основний сценарій: компактний сервер з 2–3 GPU на PCIe 6.0
• Альтернативний сценарій: серверна платформа з можливістю переходу на два процесори

AMD EPYC 9356 — 32-ядерний серверний процесор для систем, де важлива висока швидкість обміну даними з GPU. Він дає 128 ліній PCIe 6.0, підтримує DDR5-8000 і MRDIMM, а пропускна здатність пам’яті може сягати 819,2 ГБ/с. Такий набір добре підходить для компактних AI-серверів із кількома прискорювачами та швидкою мережею.

Основні характеристики

• 32 ядра / 64 потоки;
• базова частота — 3,6 ГГц, boost — до 4,5 ГГц;
• 128 ліній PCIe 6.0;
• 8 каналів DDR5-8000 RDIMM;
• підтримка MRDIMM-12800;
• пропускна здатність пам’яті — 512 ГБ/с з RDIMM або 819,2 ГБ/с з MRDIMM;
• сокет SP8;
• один або два процесорні сокети;
• TDP — 250 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• запуск моделей на 2–3 сучасних GPU;
• корпоративний RAG із великим потоком запитів;
• донавчання моделей;
• сервери з високими вимогами до швидкості пам’яті та мережі.

Переваги

9356 добре підходить для AI-сервера з кількома GPU, де важлива саме швидкість обміну даними. 128 ліній PCIe 6.0 дають великий запас під прискорювачі та мережу, а DDR5-8000 і MRDIMM піднімають пропускну здатність пам’яті до рівня, якого 32-ядерному CPU вистачає для дуже серйозних серверних конфігурацій. Підтримка двох сокетів також дозволяє масштабувати систему без переходу на іншу платформу.

Недоліки та обмеження

У 9356 лише 8 каналів пам’яті, тому за максимальною ємністю та шириною RAM-підсистеми він поступається частині SP5-моделей із 12 каналами. Якщо серверу потрібен дуже великий обсяг оперативної пам’яті або навантаження сильно залежить саме від RAM, варто дивитися на інші EPYC.

Інфраструктура

• Платформа: SP8, 1P/2P.
• Приклад материнської плати: ASRock Rack VENICED16-2L+.
• RAM: 512 ГБ–1 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 2–3 відеокарти.
• Живлення: близько 2000–2400 Вт для конфігурації з 3×RTX PRO 6000 Blackwell Max-Q.
• Корпус: 2U або 4U серверне шасі під 3 GPU.
• Охолодження CPU: пасивний серверний радіатор із фронтальним потоком повітря.

AMD EPYC 9575F

• Клас: спеціалізований
• Основний сценарій: AI-сервер із 2–4 GPU та високим навантаженням на CPU
• Альтернативний сценарій: сервер для спільного запуску моделей і важкої обробки даних

AMD EPYC 9575F — серверний процесор для систем із дорогими GPU, де важливо максимально зменшити затримки з боку CPU. Його обирають для серверів, де паралельно з роботою прискорювачів постійно йде підготовка даних і виконуються інші процесорні задачі. Це допомагає тримати GPU завантаженими й стабільніше використовувати їхню продуктивність.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 3,3 ГГц, boost — до 5 ГГц;
• частота всіх ядер — до 4,5 ГГц;
• 128 ліній PCIe 5.0;
• 12 каналів DDR5-6400 ECC;
• пропускна здатність пам’яті — 614 ГБ/с;
• сокет SP5, 1P/2P;
• TDP — 400 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на кількох GPU;
• підготовка великих наборів даних;
• корпоративний запуск моделей для багатьох користувачів;
• паралельні AI- та CPU-задачі на одному сервері.

Переваги

9575F варто брати, коли 32-ядерного серверного CPU вже мало. Тут 64 ядра працюють на високих частотах, тому процесор швидше справляється з підготовкою даних та іншими задачами навколо GPU. При цьому сервер зберігає 128 PCIe-ліній і 12 каналів пам’яті — заради процесорної продуктивності не доводиться жертвувати можливостями платформи.

Недоліки та обмеження

400 Вт TDP ставлять вищі вимоги до живлення й охолодження, ніж у молодших EPYC. Якщо основну роботу стабільно виконують GPU, а навантаження на CPU невелике, 64 високочастотні ядра використовуватимуться лише частково. У такій системі 9355P буде простішим вибором.

Інфраструктура

• Платформа: SP5, 1P/2P.
• Приклад материнської плати: GIGABYTE MZ23-SU0.
• RAM: 512 ГБ–1 ТБ ECC DDR5-6400.
• GPU: 2–4 відеокарти.
• Живлення: близько 2400 Вт для конфігурації з 4× RTX PRO 6000 Blackwell Max-Q.
• Корпус: 4U серверне шасі для 4 GPU.
• Охолодження CPU: пасивний серверний радіатор із потужним фронтальним потоком повітря.

AMD EPYC 9576F

• Клас: спеціалізований
• Основний сценарій: новий AI-сервер із 2–4 GPU та PCIe 6.0
• Альтернативний сценарій: сервер із високими вимогами до мережі та швидкості пам’яті

AMD EPYC 9576F — 64-ядерний наступник 9575F на платформі SP8. Тут акцент зміщується на швидкість обміну даними: 128 ліній PCIe 6.0, DDR5-8000 та підтримка MRDIMM із пропускною здатністю до 819,2 ГБ/с. Сам процесор теж швидкий — базова частота становить 3,55 ГГц, максимальна сягає 5 ГГц.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 3,55 ГГц, boost — до 5 ГГц;
• 384 МБ L3-кешу;
• 128 ліній PCIe 6.0;
• 8 каналів DDR5-8000 RDIMM;
• підтримка MRDIMM-12800;
• пропускна здатність пам’яті — 512 або 819,2 ГБ/с;
• сокет SP8, 1P/2P;
• TDP — 400 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• серверний запуск великих моделей на кількох GPU;
• донавчання моделей;
• робота з великими потоками даних;
• AI-сервіси зі швидким мережевим обміном між вузлами.

Переваги

9576F добре підходить для нової системи, де швидкі інтерфейси планують використовувати одразу. Чотири GPU залишають достатньо PCIe 6.0 під два мережеві адаптери та NVMe, а MRDIMM суттєво піднімає швидкість роботи з пам’яттю. 64 ядра при цьому дають серйозний запас для процесорної частини навантаження.

Недоліки та обмеження

У SP8 вісім каналів пам’яті проти дванадцяти в SP5. Високу пропускну здатність 9576F отримує за рахунок швидших модулів, тому конфігурація з MRDIMM має найбільший сенс саме там, де ця швидкість буде використовуватися. TDP 400 Вт також орієнтує процесор на дороге серверне шасі.

Інфраструктура

• Платформа: SP8, 1P/2P.
• Приклад материнської плати: ASRock Rack VENICED16-2L+.
• RAM: 512 ГБ–1 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 2–4 відеокарти.
• Живлення: 2400 Вт.
• Корпус: 4U серверне шасі для 4 GPU.
• Охолодження CPU: пасивний серверний радіатор із високим потоком повітря.

Intel Xeon 6527P

• Клас: доступний
• Основний сценарій: корпоративний AI-сервер з 2–4 GPU
• Альтернативний сценарій: сервер із частиною AI-обчислень на CPU

Intel Xeon 6527P — 24-ядерний серверний процесор для конфігурацій, де основне навантаження беруть на себе GPU. Його варто брати для 2–4 GPU-сервера, який обслуговує RAG, внутрішні AI-сервіси або спільну роботу команди. Тут процесор потрібен насамперед як швидкий і стабільний хост для прискорювачів, без переплати за десятки додаткових ядер.

Основні характеристики

• 24 ядра / 48 потоків;
• базова частота — 3,0 ГГц, turbo — до 4,2 ГГц;
• 88 ліній PCIe 5.0;
• 8 каналів DDR5-6400 ECC;
• до 4 ТБ оперативної пам’яті;
• Intel AMX, AVX-512 і DL Boost;
• сокет LGA4710, підтримка 2P;
• TDP — 255 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• корпоративний запуск моделей;
• RAG для команди;
• донавчання на кількох GPU;
• AI-задачі з використанням Intel AMX.

Переваги

6527P добре вписується в сервер, де GPU виконують більшість AI-обчислень, а процесору потрібен помірний запас продуктивності. 24 ядра тут поєднуються з високими частотами та серверною пам’яттю. Підтримка AMX додає ще один варіант використання CPU для частини AI-задач.

Недоліки та обмеження

88 PCIe-ліній залишають менше свободи, ніж 128 у багатьох EPYC. У конфігурації з чотирма GPU, швидкою мережею та кількома NVMe резерв швидко закінчується. Якщо сервер планується активно розширювати, це треба врахувати ще на етапі вибору платформи.

Інфраструктура

• Платформа: LGA4710, 1P/2P.
• Приклад материнської плати: Supermicro X14SBH.
• RAM: 256–512 ГБ ECC DDR5-6400.
• GPU: 2–4 відеокарти.
• Живлення: 2000–2400 Вт.
• Корпус: 4U серверне шасі.
• Охолодження CPU: пасивний серверний радіатор із фронтальним потоком повітря.

Intel Xeon 6767P

• Клас: оптимальний
• Основний сценарій: великий спільний AI-сервер
• Альтернативний сценарій: 2P-система з 4–8 GPU

Intel Xeon 6767P — 64-ядерний серверний процесор для великих AI-систем із кількома GPU та значним навантаженням на CPU. Його варто брати, коли один сервер одночасно обслуговує багато користувачів, запускає кілька AI-сервісів і має запас для масштабування до двопроцесорної конфігурації. Це вже варіант не для окремої команди, а для спільної корпоративної інфраструктури.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 2,4 ГГц, turbo — до 3,9 ГГц;
• частота всіх ядер — до 3,6 ГГц;
• 88 ліній PCIe 5.0 на процесор;
• 8 каналів DDR5-6400;
• MRDIMM — до 8000 MT/s;
• до 4 ТБ оперативної пам’яті на процесор;
• Intel AMX, AVX-512 і DL Boost;
• сокет LGA4710, 2P;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• спільний запуск моделей для великої команди;
• корпоративний RAG із великою кількістю одночасних запитів;
• донавчання моделей на кількох GPU;
• AI-сервіси з великим навантаженням на CPU.

Переваги

6767P має вже зовсім інший масштаб, ніж 6527P. 64 ядра краще підходять для великої кількості паралельних процесів, а два сокети дозволяють наростити процесорний ресурс і PCIe до рівня великого GPU-сервера. MRDIMM також піднімає швидкість пам’яті, що корисно при активній роботі CPU з даними.

Недоліки та обмеження

В одному сокеті все ще доступно лише 88 PCIe-ліній. Щоб побудувати щільну систему на 8 GPU, уже потрібна двопроцесорна конфігурація та відповідне серверне шасі. Це збільшує складність системи й додає NUMA — нерівномірний доступ процесорів до локальної пам’яті та пристроїв.

Інфраструктура

• Платформа: LGA4710, 2P.
• Приклад материнської плати: Supermicro X14DBM-SP.
• RAM: 1–2 ТБ ECC DDR5 або MRDIMM.
• GPU: 4–8 відеокарт.
• Живлення: 4×3000 Вт для великої 8-GPU конфігурації.
• Корпус: 4U GPU-сервер.
• Охолодження CPU: два пасивні серверні радіатори з високим потоком повітря.

↑ До змісту

AI-процесори для дата-центра

У дата-центрі процесор вибирають уже як частину великого обчислювального вузла. Тут важливо, скільки роботи бере на себе CPU, як швидко він обслуговує GPU і наскільки щільно такі вузли можна розміщувати в стійках.

Тому в цьому класі немає одного універсального найкращого процесора. Одні моделі працюють як хости для дорогих прискорювачів, інші беруть на себе велику кількість паралельних сервісів або дають більше ресурсів для масштабування всього вузла.

AMD EPYC 9654

• Клас: доступний (старіше покоління)
• Основний сценарій: розширення дата-центра на платформі SP5
• Альтернативний сценарій: 4–8 GPU вузол із помітним навантаженням на CPU

AMD EPYC 9654 — 96-ядерний серверний процесор для дата-центрів, де вже використовується платформа SP5. Він добре підходить для розширення наявного парку: можна залишитися в тій самій екосистемі серверів і пам’яті та отримати достатньо ресурсів для великого GPU-вузла. Для AI це особливо важливо там, де оновлення всієї платформи поки не дає пропорційної користі.

Основні характеристики

• 96 ядер / 192 потоки;
• базова частота — 2,4 ГГц, boost — до 3,7 ГГц;
• 128 ліній PCIe 5.0;
• 12 каналів DDR5-4800 ECC;
• пропускна здатність пам’яті — 460,8 ГБ/с;
• 384 МБ L3-кешу;
• сокет SP5, 1P/2P;
• TDP — 360 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей у дата-центрі;
• запуск великих моделей на кількох GPU;
• корпоративні AI-сервіси з великим потоком запитів;
• розширення вже наявної SP5-інфраструктури.

Переваги

9654 особливо доречний там, де SP5 уже працює в дата-центрі. 96 ядер вистачає для серйозної процесорної частини навантаження, а 128 PCIe-ліній дозволяють будувати великі GPU-вузли. У такому сценарії можна вкладатися в прискорювачі та розширення системи замість повної заміни платформи.

Недоліки та обмеження

DDR5-4800 і PCIe 5.0 вже поступаються новішим поколінням за пропускною здатністю. Це стає помітніше у вузлах із дуже швидкою мережею або великим потоком даних між CPU та прискорювачами. Для нової інфраструктури з довгим горизонтом масштабування вже краще дивитися на EPYC 9005 або 9006.

Інфраструктура

• Платформа: SP5, 1P/2P.
• Приклад материнської плати: Supermicro H13DSG-OM.
• RAM: 1–2 ТБ ECC DDR5.
• GPU: 4–8 прискорювачів у серверному шасі.
• Живлення: 4×3000 Вт для великої 8-GPU конфігурації.
• Корпус: 4U або 8U GPU-шасі.
• Охолодження CPU: пасивні серверні радіатори з високим потоком повітря.

AMD EPYC 9965

• Клас: спеціалізований
• Основний сценарій: висока щільність AI-сервісів і агентів
• Альтернативний сценарій: великі CPU-навантаження навколо GPU-кластера

AMD EPYC 9965 — 192-ядерний процесор для дата-центра, де на CPU припадає велика кількість паралельної роботи. Його сильна сторона — щільність: один вузол може обслуговувати багато контейнерів, сервісів RAG і агентних процесів, поки GPU-вузли виконують основні обчислення моделей.

Основні характеристики

• 192 ядра / 384 потоки;
• базова частота — 2,25 ГГц, boost — до 3,7 ГГц;
• 128 ліній PCIe 5.0;
• 12 каналів DDR5-6400 ECC;
• пропускна здатність пам’яті — 614 ГБ/с;
• 384 МБ L3-кешу;
• сокет SP5, 1P/2P;
• TDP — 500 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• запуск великої кількості AI-агентів;
• корпоративні RAG-сервіси;
• контейнери та віртуальні машини навколо AI;
• обробка запитів між користувачами та GPU-кластером.

Переваги

9965 дозволяє зібрати дуже щільний CPU-вузол. 192 ядра добре працюють там, де одночасно запускаються сотні процесів і кожному потрібен власний обчислювальний ресурс. Це хороший вибір для дата-центра, в якому GPU відповідають за моделі, а окремий шар серверів займається агентами, RAG та іншими допоміжними сервісами.

Недоліки та обмеження

9965 орієнтований на велику кількість паралельних задач, а не на максимальну продуктивність одного ядра. Для хоста, який має максимально швидко обслуговувати кілька дорогих GPU, високочастотні моделі на кшталт 9575F або нові 9676F підходять краще. TDP 500 Вт також потрібно враховувати при високій щільності вузлів у стійці.

Інфраструктура

• Платформа: SP5, 1P/2P.
• Приклад материнської плати: Supermicro H14SSF.
• RAM: 1–3 ТБ ECC DDR5-6400.
• GPU: 0–2 прискорювачі у типовому CPU-heavy вузлі.
• Живлення: 2×1600–2000 Вт із резервуванням 1+1.
• Корпус: 2U серверне шасі.
• Охолодження CPU: пасивний серверний радіатор із високим потоком повітря.

AMD EPYC 9676F

• Клас: спеціалізований
• Основний сценарій: високопродуктивний хост для GPU
• Альтернативний сценарій: AI-вузол із великим потоком даних між CPU та прискорювачами

AMD EPYC 9676F — 96-ядерний процесор для дата-центрових вузлів, де дорогі GPU мають отримувати дані максимально швидко. Це вже інший підхід, ніж у 9965: менше ядер, зате висока частота і PCIe 6.0. Такий CPU добре підходить для серверів, де процесор постійно готує дані, керує роботою прискорювачів і повинен якомога менше затримувати весь вузол.

Основні характеристики

• 96 ядер / 192 потоки;
• базова частота — 3,1 ГГц, boost — до 5 ГГц;
• 128 ліній PCIe 6.0;
• 8 каналів DDR5-8000 RDIMM;
• підтримка MRDIMM-12800;
• пропускна здатність пам’яті — 512 або 819,2 ГБ/с;
• 384 МБ L3-кешу;
• сокет SP8, 1P/2P;
• TDP — 400 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• великі GPU-вузли для запуску моделей;
• донавчання з високим навантаженням на CPU;
• швидкий обмін даними між вузлами;
• AI-системи, де важлива висока завантаженість прискорювачів.

Переваги

9676F добре підходить саме як процесор для дорогого GPU-вузла. 96 ядер залишають великий запас для процесорної роботи, а частота до 5 ГГц допомагає там, де затримки CPU вже впливають на завантаження прискорювачів. PCIe 6.0 дає удвічі більшу пропускну здатність на лінію порівняно з Gen5, тому швидка мережа та кілька GPU отримують більше ресурсу для обміну даними.

Недоліки та обмеження

Вісім каналів пам’яті роблять SP8 менш місткою за старші дата-центрові платформи з 12 або 16 каналами. Якщо головна задача — розмістити максимальний обсяг RAM або отримати найбільшу сумарну пропускну здатність пам’яті, SP7-моделі підходять краще. Для CPU-heavy сервісів із сотнями паралельних процесів 9965 також може бути практичнішим.

Інфраструктура

• Платформа: SP8, 1P/2P.
• Приклад материнської плати: ASRock Rack VENICED16-2L+.
• RAM: 1–2 ТБ DDR5 RDIMM або MRDIMM.
• GPU: 4 прискорювачі у референсній конфігурації.
• Живлення: близько 3200 Вт із резервуванням 1+1.
• Корпус: 2U або 4U GPU-шасі.
• Охолодження CPU: пасивне серверне або рідинне для щільних вузлів.

AMD EPYC 9756

• Клас: спеціалізований
• Основний сценарій: AI-вузол із великим обсягом оперативної пам’яті та інтенсивною роботою з даними
• Альтернативний сценарій: 4-GPU сервер із високим навантаженням на CPU та RAM

AMD EPYC 9756 — 128-ядерний процесор для дата-центрових систем, у яких швидкість роботи з пам’яттю має не менше значення, ніж кількість ядер. Він підходить для великих наборів даних, CPU-етапів AI-пайплайна та інших задач, які постійно звертаються до оперативної пам’яті. Саме під такі навантаження платформа SP7 отримала 16 каналів RAM.

Основні характеристики

• 128 ядер / 256 потоків;
• базова частота — 3,15 ГГц, boost — до 4 ГГц;
• 512 МБ L3-кешу;
• 96 ліній PCIe 6.0;
• 16 каналів DDR5;
• DDR5 RDIMM — до 8000 MT/s;
• MRDIMM — до 12 800 MT/s;
• пропускна здатність пам’яті — до 1024 ГБ/с з RDIMM або 1638 ГБ/с з MRDIMM;
• сокет SP7, 1P/2P;
• TDP — 500 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• підготовка та обробка великих наборів даних;
• великі RAG-системи з активною роботою з пам’яттю;
• донавчання моделей на кількох GPU;
• AI-разом із HPC та іншими важкими CPU-задачами.

Переваги

9756 цікавий насамперед своєю підсистемою пам’яті. Шістнадцять каналів дають значно більше пропускної здатності, ніж восьмиканальні SP8 або дванадцятиканальні SP5, а 128 ядер дозволяють цим ресурсом реально скористатися. Такий процесор доречний у системах, де швидкість роботи з оперативною пам’яттю прямо впливає на темп підготовки даних і загальну продуктивність AI-пайплайна.

Недоліки та обмеження

Головне обмеження SP7 для GPU-конфігурацій — 96 PCIe-ліній. Чотири прискорювачі разом із мережею та NVMe вже можуть використати весь доступний бюджет. Для систем із більшою кількістю GPU доведеться переходити до серверної архітектури з PCIe-комутаторами або окремим високошвидкісним з’єднанням між прискорювачами.

Інфраструктура

• Платформа: SP7, 1P/2P.
• Приклад материнської плати: GIGABYTE MD25-CG0.
• RAM: 1–4 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 2–4 прискорювачі з прямим підключенням до CPU.
• Живлення: близько 2400–3200 Вт для 4-GPU конфігурації.
• Корпус: 4U серверне шасі.
• Охолодження CPU: пасивний серверний радіатор із високим потоком повітря.

AMD EPYC 9996

• Клас: флагманський
• Основний сценарій: максимальна щільність процесорних обчислень у дата-центрі
• Альтернативний сценарій: великі AI-сервіси з сотнями паралельних CPU-процесів

AMD EPYC 9996 — 256-ядерний процесор для задач, де вигідно виконувати якомога більше паралельної роботи на одному серверному вузлі. Це може бути обробка даних перед передаванням на GPU, велика кількість контейнерів, пошукові та RAG-сервіси або CPU-інференс. У двопроцесорній системі один сервер отримує до 512 фізичних ядер.

Основні характеристики

• 256 ядер / 512 потоків;
• базова частота — 2,55 ГГц, boost — до 4,1 ГГц;
• 1 ГБ L3-кешу;
• 96 ліній PCIe 6.0;
• 16 каналів DDR5;
• DDR5 RDIMM — до 8000 MT/s;
• MRDIMM — до 12 800 MT/s;
• пропускна здатність пам’яті — до 1024 або 1638 ГБ/с;
• сокет SP7, 1P/2P;
• TDP — 600 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• масова паралельна підготовка даних;
• CPU-інференс;
• великі RAG та пошукові системи;
• велика кількість контейнерів і віртуальних середовищ для AI-сервісів.

Переваги

9996 дозволяє різко збільшити обчислювальну щільність без нарощування кількості серверів. Один процесор дає 256 ядер, два — 512. Для дата-центра це означає менше окремих вузлів для задач, які добре розпаралелюються, і можливість виділити значний CPU-ресурс великій кількості сервісів одночасно.

Недоліки та обмеження

600 Вт на один процесор — уже серйозне навантаження на живлення та охолодження стійки, особливо у двосокетній системі. Другий компроміс — 96 PCIe-ліній: у 9996 їх стільки ж, скільки в 9756, хоча процесорних ядер удвічі більше. Тому ця модель найкраще розкривається у CPU-щільних вузлах, а не як основа для максимальної кількості напряму підключених GPU.

Інфраструктура

• Платформа: SP7, 1P/2P.
• Приклад материнської плати: Supermicro H15DPH.
• RAM: 2–8 ТБ DDR5 RDIMM/MRDIMM.
• GPU: 0–2 прискорювачі у типовій CPU-щільній конфігурації.
• Живлення: 2×2000–3200 Вт із резервуванням для двопроцесорного вузла.
• Корпус: 1U або 2U серверне шасі.
• Охолодження CPU: високопродуктивне повітряне або рідинне охолодження для щільних 2P-вузлів.

Intel Xeon 6960P

• Клас: спеціалізований
• Основний сценарій: дата-центровий AI-вузол із високим навантаженням на CPU
• Альтернативний сценарій: AI та HPC із використанням Intel AMX

Intel Xeon 6960P — 72-ядерний процесор для дата-центрових систем із високим навантаженням на CPU. Його варто розглядати для AI-вузлів, де процесор регулярно бере на себе підготовку даних, обробку запитів і інші задачі, чутливі до швидкості окремих ядер. Це робить 6960P сильним варіантом для змішаних AI- та HPC-навантажень.

Основні характеристики

• 72 ядра / 144 потоки;
• базова частота — 2,7 ГГц;
• частота всіх ядер — до 3,8 ГГц;
• максимальна частота — до 3,9 ГГц;
• 432 МБ кешу;
• 96 ліній PCIe 5.0;
• 12 каналів DDR5;
• DDR5 RDIMM — до 6400 MT/s;
• MRDIMM — до 8800 MT/s;
• до 3 ТБ пам’яті на процесор;
• Intel AMX, AVX-512, DL Boost;
• сокет LGA7529, 2P;
• TDP — 500 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей із великим навантаженням на CPU;
• підготовка та перетворення даних;
• AI-інференс із використанням AMX;
• змішані AI та HPC-навантаження.

Переваги

6960P займає цікаве місце серед Xeon 6900P. У нього 72 ядра, але частота всіх ядер сягає 3,8 ГГц — помітно вище, ніж у більш багатоядерних 6980P. Тому він має сенс для задач, де швидші окремі потоки дають більше користі, ніж перехід зі 72 на 128 ядер.

Недоліки та обмеження

96 ліній PCIe 5.0 обмежують пряме підключення великої кількості прискорювачів. Чотири GPU, швидка мережа й чотири NVMe вже забирають увесь бюджет. TDP 500 Вт також доволі високий для 72-ядерної моделі, тому 6960P має сенс саме там, де його високі частоти реально використовуються.

Інфраструктура

• Платформа: LGA7529, 1P/2P.
• Приклад материнської плати: Supermicro X14DBG-DAP.
• RAM: 1–3 ТБ ECC DDR5 RDIMM/MRDIMM.
• GPU: 4–8 прискорювачів у сервері з PCIe-комутаторами.
• Живлення: близько 3000–6000 Вт залежно від кількості GPU.
• Корпус: 4U GPU-сервер.
• Охолодження CPU: пасивні серверні радіатори або рідинне охолодження для щільної 2P-конфігурації.

Intel Xeon 6980P

• Клас: флагманський
• Основний сценарій: великий AI-вузол із кількома GPU та важким процесорним навантаженням
• Альтернативний сценарій: AI + HPC, підготовка даних та інші добре розпаралелювані задачі

Intel Xeon 6980P — 128-ядерний процесор для дата-центрових вузлів, у яких значна частина роботи залишається на CPU. Він доречний, коли разом із кількома прискорювачами на одному сервері виконуються підготовка даних, індексація, симуляції або інші важкі багатопотокові задачі. У такій конфігурації можна сконцентрувати більше роботи в одному вузлі замість винесення процесорних етапів на окремі сервери.

Основні характеристики

• 128 ядер / 256 потоків;
• базова частота — 2,0 ГГц;
• частота всіх ядер — до 3,2 ГГц, максимальна — до 3,9 ГГц;
• 504 МБ кешу;
• 96 ліній PCIe 5.0;
• 12 каналів DDR5;
• DDR5 RDIMM — до 6400 MT/s;
• MRDIMM — до 8800 MT/s;
• до 3 ТБ RAM на процесор;
• Intel AMX, AVX-512, DL Boost;
• LGA7529, 2P;
• TDP — 500 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• донавчання моделей на кількох GPU;
• підготовка й перетворення великих наборів даних;
• AI + HPC;
• великі RAG-системи з важкою процесорною частиною.

Переваги

Порівняно з 6960P ця модель додає ще 56 ядер, але зберігає ту саму 12-канальну пам’ять і 96 PCIe-ліній. Якщо ваші задачі добре масштабуються на велику кількість потоків, 6980P дозволяє помітно наростити процесорний ресурс без переходу на іншу платформу. AMX також корисний для частини інференсу та інших матричних обчислень на CPU.

Недоліки та обмеження

За додаткові ядра доводиться поступитися частотою: 6980P тримає до 3,2 ГГц на всіх ядрах проти 3,8 ГГц у 6960P. Кількість PCIe-ліній при цьому не збільшується — їх усе ті ж 96. Тому для вузла з переважно GPU-навантаженням перехід із 6960P на 6980P сам по собі не дає більше можливостей для підключення прискорювачів.

Інфраструктура

• Платформа: LGA7529, 1P/2P.
• Приклад материнської плати: Supermicro X14DBG-XAP.
• RAM: 1–3 ТБ ECC DDR5 RDIMM/MRDIMM.
• GPU: 4–8 прискорювачів.
• Живлення: 4×3000 Вт для великої 8-GPU конфігурації.
• Корпус: 4U GPU-сервер.
• Охолодження CPU: пасивні серверні радіатори з високим потоком повітря або рідинне охолодження.

Intel Xeon 6990E+

• Клас: спеціалізований
• Основний сценарій: максимальна кількість паралельних AI-сервісів на одному вузлі
• Альтернативний сценарій: контейнери, RAG, агенти та інференс-сервіси в дата-центрі

Intel Xeon 6990E+ — 288-ядерний процесор для дата-центрів, де головне завдання — обслуговувати якомога більше паралельних процесів на одному сервері. Такий підхід добре працює для великої кількості контейнерів, RAG-сервісів, AI-агентів та інференс-запитів. Замість високої продуктивності окремого ядра ця модель дає дуже велику сумарну кількість обчислювальних ресурсів у межах одного сокета.

Основні характеристики

• 288 E-ядер / 288 потоків;
• базова частота — 2,2 ГГц;
• частота всіх ядер — до 2,8 ГГц, максимальна — до 3,2 ГГц;
• 576 МБ кешу;
• 96 ліній PCIe 5.0;
• 12 каналів DDR5-8000;
• до 1,5 ТБ RAM на процесор;
• підтримка двох сокетів;
• LGA7529;
• TDP — 450 Вт;
• додатковий режим 330 Вт із нижчою базовою частотою.

Приклад розподілу PCIe-ліній

Для яких задач

• велика кількість AI-агентів;
• RAG та пошукові сервіси;
• масовий інференс;
• контейнери й віртуалізовані AI-середовища;
• бекенд великої AI-платформи.

Переваги

Головна причина вибрати 6990E+ — 288 фізичних ядер в одному сокеті. Це дозволяє розмістити на одному сервері дуже багато незалежних сервісів і розподіляти між ними окремі ядра без постійної конкуренції за процесорний час. Для дата-центра з тисячами паралельних запитів або великим парком контейнерів така щільність надзвичайно важлива.

Недоліки та обмеження

6990E+ використовує E-ядра без Hyper-Threading, а максимальна частота становить 3,2 ГГц. Він також не підтримує AMX та AVX-512, які є у Xeon 6900P. Тому для важкої матричної роботи без GPU або задач, чутливих до продуктивності одного потоку, краще підходять P-core моделі. PCIe тут залишився Gen5 із 96 лініями — кількість ядер зросла набагато сильніше, ніж можливості підключення прискорювачів.

Інфраструктура

• Платформа: LGA7529, 1P/2P.
• Приклад материнської плати: Supermicro X14DBM-AP.
• RAM: 768 ГБ–1,5 ТБ DDR5-8000 на процесор.
• GPU: 0–2 прискорювачі у типовому CPU-щільному вузлі.
• Живлення: 2×1600–2000 Вт із резервуванням 1+1.
• Корпус: 1U або 2U серверне шасі.
• Охолодження CPU: пасивний серверний радіатор із високим потоком повітря.

Intel Xeon Platinum 8592+

• Клас: доступний (старіше покоління)
• Основний сценарій: розширення наявної AI-інфраструктури на LGA4677
• Альтернативний сценарій: 2–4 GPU вузол із підтримкою Intel AMX

Intel Xeon Platinum 8592+ — 64-ядерний процесор для дата-центрів, де вже працюють сервери на платформі LGA4677. Його головний сценарій сьогодні — розширення або модернізація наявної інфраструктури без переходу на Xeon 6 і новий сокет. Це дозволяє довше використовувати сервери покоління C741 там, де їхніх можливостей для AI ще достатньо.

Основні характеристики

• 64 ядра / 128 потоків;
• базова частота — 1,9 ГГц, boost — до 3,9 ГГц;
• 320 МБ кешу;
• 80 ліній PCIe 5.0;
• 8 каналів DDR5-5600 ECC;
• до 4 ТБ RAM на процесор;
• Intel AMX, AVX-512, DL Boost;
• LGA4677, 2P;
• TDP — 350 Вт.

Приклад розподілу PCIe-ліній

Для яких задач

• розширення наявного GPU-кластера;
• корпоративний інференс;
• RAG і внутрішні AI-сервіси;
• AI-задачі з використанням AMX;
• змішані AI та серверні навантаження.

Переваги

8592+ має найбільше сенсу там, де LGA4677 уже закуплена й працює. У цьому випадку можна отримати 64 ядра, великий обсяг RAM і AMX, не змінюючи весь серверний парк. Платформа також підтримує двопроцесорні конфігурації, тому її запас для великих наявних систем усе ще суттєвий.

Недоліки та обмеження

Порівняно з Xeon 6 різниця в платформі вже помітна: 80 PCIe-ліній замість 96, вісім каналів пам’яті замість дванадцяти та DDR5-5600 замість DDR5-6400/MRDIMM. Чотири GPU майже повністю займають його PCIe-бюджет. Тому для нового дата-центрового вузла 8592+ варто розглядати насамперед тоді, коли сумісність із уже наявною LGA4677 важливіша за запас на наступні роки.

Інфраструктура

• Платформа: LGA4677, 1P/2P.
• Приклад материнської плати: Supermicro X13DEG-OA.
• RAM: 512 ГБ–2 ТБ ECC DDR5-5600.
• GPU: 2–4 прискорювачі з прямим підключенням, до 8 у спеціалізованому GPU-сервері.
• Живлення: 2×2000–2400 Вт для 4-GPU конфігурації.
• Корпус: 4U GPU-сервер.
• Охолодження CPU: пасивні серверні радіатори з фронтальним потоком повітря.

↑ До змісту

Ноутбуки для AI на AMD Ryzen AI Max

Ноутбуки на Ryzen AI Max — це мобільні системи з потужною інтегрованою графікою та великим обсягом пам’яті, спільної для CPU і GPU. Саме пам’ять робить їх особливо цікавими для локального AI: замість окремих 16, 24 або 32 ГБ VRAM графічний прискорювач може отримати значно більшу частину загальної RAM.

У Ryzen AI Max+ 395 доступно до 128 ГБ LPDDR5X, з яких до 96 ГБ можна виділити графіці. Процесор також має 16 ядер Zen 5 і Radeon 8060S із 40 обчислювальними блоками. Така конфігурація дозволяє запускати локально навіть 4-бітні LLM із понад 100 млрд параметрів (100B).

У 2026 році з’явився Ryzen AI Max+ PRO 495, який підняв максимальний обсяг спільної пам’яті до 192 ГБ. Графіці можна виділити до 160 ГБ — це вже запас для дуже великих локальних моделей, який у мобільному комп’ютері ще недавно був практично недоступний.

Характеристики процесорів Ryzen AI Max

Чому Ryzen AI Max цікавий для локального AI

Головна перевага цієї платформи — надзвичайна для портативної техніки місткість моделей. Якщо LLM потребує, наприклад, 60–80 ГБ пам’яті, звичайна мобільна відеокарта вже не підходить незалежно від її швидкості. Ryzen AI Max може віддати графіці значно більший обсяг спільної пам’яті та запустити таку модель локально.

Особливо добре це працює з квантизованими LLM і VLM. Ryzen AI Max+ 395 із 128 ГБ пам’яті та 96 ГБ, виділеними графіці, підтримує 4-бітні моделі до 128 млрд параметрів. Для Max+ PRO 495 із 192 ГБ загальної пам’яті максимальний доступний графіці обсяг зростає вже до 160 ГБ.

NPU, або нейронний процесор, відповідає тут переважно за окремі локальні AI-функції та програми, які вміють його використовувати. Для запуску великих мовних моделей важливішу роль відіграють відеокарти Radeon 8060S/8065S і великий обсяг спільної пам’яті. Саме ця зв’язка дає Ryzen AI Max його головну перевагу в локальному AI.

Для яких AI-задач підходить ноутбук Ryzen AI Max

Такий ноутбук особливо зручний для спеціаліста, який працює у локальному AI-середовищі в дорозі чи на території клієнта. До його задач належать:

• локальний запуск LLM і VLM;
• RAG із корпоративними документами;
• розробка та тестування AI-агентів;
• робота з моделями без постійного підключення до хмари;
• демонстрація AI-рішень у клієнта;
• прототипування перед запуском моделі на сервері;
• локальна робота з конфіденційними даними;
• легке та параметр-ефективне донавчання моделей.

Наприклад, HP ZBook Ultra G1a у конфігурації з Ryzen AI Max+ PRO 395 і 128 ГБ пам’яті дозволяє виділити до 96 ГБ для графіки. Такий запас уже дозволяє працювати з великими локальними LLM, RAG і AI-агентами без підключення до окремого сервера.

Ще один варіант — ASUS ProArt PX13 на Ryzen AI Max+ 395. Він має 32 ГБ пам’яті та SSD на 1 ТБ, і більше підходить для компактних локальних LLM, RAG, AI-агентів і розробки в дорозі.

Переваги ноутбуків Ryzen AI Max для AI

• Великий обсяг пам’яті в мобільному форматі. 96 ГБ доступної графіці пам’яті у Max+ 395 або до 160 ГБ у Max+ PRO 495 відкривають клас моделей, який для звичайних ноутбучних GPU недоступний.
• Один комп’ютер для розробки й запуску моделі. На ньому можна писати код, працювати з даними, запускати локальний RAG або LLM і одразу тестувати готовий застосунок.
• Робота без постійного доступу до сервера. Розробник може працювати в дорозі, у клієнта або в середовищі, де дані не мають залишати локальний пристрій.
• Компактність. Ноутбук на Ryzen AI Max можна використовувати як повноцінне локальне AI-середовище без окремого системного блока, зовнішньої GPU чи підключення до сервера. Його можна брати у відрядження, на зустрічі з клієнтами або працювати з великими моделями поза офісом.

Обмеження ноутбука для AI

Ryzen AI Max має великий обсяг пам’яті, але за швидкістю обчислень поступається робочим станціям із потужними дискретними GPU. Це особливо помітно під час донавчання моделей, тривалого інференсу та інших задач із постійним високим навантаженням.

Є й інші практичні обмеження:

• немає можливості додати другу або третю GPU — обчислювальна конфігурація фактично фіксована;
• RAM не завжди можна розширити після покупки, тому потрібний обсяг пам’яті краще вибирати одразу;
• тривале навантаження обмежене можливостями охолодження ноутбука — велика стаціонарна система краще відводить тепло й довше утримує високу продуктивність;
• пропускна здатність спільної пам’яті нижча, ніж у професійних дискретних GPU з HBM або GDDR, тому велика модель може поміститися в пам’ять, але працювати повільніше;
• можливості апгрейду загалом мінімальні: зазвичай можна замінити накопичувач, але CPU, GPU і пам’ять залишаються частиною однієї платформи.

Тому Ryzen AI Max найкраще підходить як персональна мобільна система для локального AI. Для постійного важкого навантаження, кількох GPU та подальшого масштабування краще підходить робоча станція або сервер.

Ноутбук Ryzen AI Max чи робоча станція?

Якщо вам потрібно брати велику локальну модель із собою, Ryzen AI Max має очевидну перевагу. Для постійної роботи під високим навантаженням і подальшого нарощування GPU краще підходить робоча станція.

Персональні AI-ноутбуки чи спільний сервер

Тут вибір уже залежить від кількості людей. Для одного розробника персональний AI-ноутбук дає власний ресурс: модель і середовище завжди доступні, експерименти інших користувачів не займають обчислювальну потужність, а роботу можна продовжити поза офісом.

Для невеликої команди кілька таких ноутбуків теж можуть бути зручними, особливо якщо кожен спеціаліст працює зі своїми моделями та проєктами.

Спільний AI-сервер стає логічнішим, коли одна й та сама інфраструктура потрібна багатьом користувачам. Сервер можна обладнати кількома GPU, централізовано зберігати моделі й дані та розподіляти обчислювальний ресурс між командою. Він також простіше масштабується зі зростанням кількості користувачів.

Тому Ryzen AI Max не замінює сервер. Він вирішує іншу задачу — дає одному спеціалісту багато пам’яті для локального AI у мобільному комп’ютері. Для розробника, який регулярно працює з великими моделями поза серверною інфраструктурою, саме це може бути головною причиною вибрати такий ноутбук.

↑ До змісту

AI-процесори за сценаріями використання

↑ До змісту

Який процесор вибрати для AI

У бізнес-логіці вибір CPU для AI варто оцінювати через вартість усієї системи, її завантаження та майбутнє масштабування. Правильно підібрана платформа допомагає ефективніше використати бюджет на GPU й довше обходитися без повної перебудови інфраструктури.

Для раціонального використання бюджету дотримуйтесь таких принципів:

1. Віддавайте більшу частину кошторису GPU, якщо основні обчислення виконують саме вони. Для системи з 1–2 прискорювачами часто немає сенсу переплачувати за 64–96 ядер CPU. Ці гроші можуть дати більший ефект у сильнішій GPU, більшому обсязі VRAM або другому прискорювачі.
2. Закладайте масштабування на етапі першої збірки. Якщо сьогодні потрібні дві GPU, а через рік — чотири, дешевша платформа може вимагати заміни процесора, материнської плати та частини інфраструктури. У такому випадку дорожча платформа з більшим запасом PCIe-ліній може бути вигіднішою за два послідовні апгрейди.
3. Рахуйте кількість користувачів. Персональна AI-станція добре працює для одного спеціаліста. Для команди централізований сервер часто вигідніший: GPU, моделі та дані використовуються спільно, а обчислювальний ресурс можна розподіляти між кількома людьми.
4. Не допускайте простою дорогих GPU через слабку платформу. Якщо процесор, пам’ять або PCIe не встигають подавати дані, прискорювачі використовуються не на повну. У системі з кількома професійними GPU економія на CPU може коштувати дорожче, ніж сильніша серверна або HEDT-платформа.
5. Враховуйте горизонт експлуатації. Для системи на 2–3 роки старша платформа може бути цілком раціональною. Якщо інфраструктура має пережити кілька поколінь GPU, більший запас PCIe-ліній, новіша версія інтерфейсу та швидша пам’ять дадуть більше свободи для апгрейду.
6. Розділяйте персональний і командний AI. Ryzen AI Max або GB10 можуть бути дуже вигідними для окремого розробника з великими локальними моделями. Для постійної роботи команди той самий бюджет часто краще вкладати у спільний сервер.
7. Рахуйте повну вартість платформи. Дорожчий CPU може вимагати іншої плати, більшого обсягу пам’яті, потужнішого живлення та складнішого охолодження. Тому порівнювати варто не ціни процесорів, а вартість готових систем під однакове навантаження.

У CompX ви можете замовити готові рішення та окремі компоненти для AI-систем — від персональних робочих станцій до серверів і складних багатовідеокартних конфігурацій. Наші спеціалісти підберуть процесор, GPU, пам’ять, накопичувачі та іншу інфраструктуру точно під ваші задачі, бюджет і плани на розвиток.

Ми готові працювати з масштабними та нестандартними проєктами, де важливо правильно збалансувати продуктивність усієї системи. Звертайтеся до CompX, щоб обговорити майбутню конфігурацію, а також отримати кошторис і комерційну пропозицію під ваш проєкт.

↑ До змісту

Поширені питання

Наскільки важливий процесор для AI, якщо основні обчислення виконує GPU?

CPU готує дані, обслуговує накопичувачі, мережу та самі GPU. У добре збалансованій системі він не прискорює модель напряму, але слабкий CPU може знижувати завантаження дорогих прискорювачів.

Чи може слабкий процесор обмежувати продуктивність дорогої відеокарти в AI?

Так. Це трапляється під час активної підготовки даних, великої кількості паралельних задач або нестачі PCIe-ліній і пропускної здатності пам’яті.

Скільки ядер процесора потрібно для AI?

Для 1–2 GPU часто достатньо 16–32 ядер. Для 3–4 GPU, серверів і важкої підготовки даних доцільно 32–64 ядра й більше. Сотні ядер потрібні вже для великих серверних і дата-центрових навантажень.

Що важливіше для AI-процесора: кількість ядер чи висока частота?

Залежить від задачі. Висока частота важлива для слабко розпаралелюваних процесів, а велика кількість ядер — для підготовки даних, контейнерів, паралельних сервісів та інших багатопотокових задач.

Скільки PCIe-ліній потрібно для двох, трьох або чотирьох GPU?

Дві GPU на x16 потребують 32 лінії, три — 48, чотири — 64. Додатково потрібен запас для NVMe, мережевих карт, DPU та іншого обладнання.

Чи обов’язково підключати GPU через PCIe x16, чи для AI достатньо x8?

Не завжди потрібен x16. Для багатьох AI-навантажень PCIe x8 достатньо, особливо якщо модель переважно працює у VRAM. x16 корисніший при частому обміні великими обсягами даних між CPU і GPU.

Коли звичайного Ryzen/Core достатньо, а коли вже потрібен Threadripper, Xeon або EPYC?

Ryzen/Core достатньо для однієї GPU. Для 2–4 GPU та великої кількості PCIe-пристроїв краще Threadripper або Xeon W. Для спільного сервера, великого обсягу RAM і цілодобового навантаження — EPYC або серверний Xeon.

Threadripper чи EPYC: що краще для системи з кількома GPU?

Threadripper краще підходить для персональної робочої станції. EPYC — для сервера, де важливі великий обсяг RAM, серверна платформа, віддалене керування та постійна робота під навантаженням.

Чи можна запускати LLM тільки на процесорі без GPU?

Так. Але швидкість сильно залежить від моделі та пропускної здатності пам’яті. CPU-only добре підходить для невеликих моделей, тестів і задач, де швидкість інференсу не критична.

Від чого залежить швидкість LLM на CPU: кількості ядер, частоти чи пропускної здатності RAM?

Для великих LLM особливо важлива пропускна здатність пам’яті. Кількість ядер і частота теж впливають, але після певного рівня саме RAM часто стає головним обмеженням.

Для чого потрібен NPU і чи може він запускати великі мовні моделі замість GPU?

NPU призначений для енергоефективних локальних AI-функцій і програм, які його підтримують. Для великих LLM основне навантаження зазвичай бере GPU або інтегрована графіка з великим обсягом спільної пам’яті.

Що краще для локального AI: Ryzen AI Max, ARM-система на NVIDIA GB10 чи робоча станція з дискретною GPU?

Ryzen AI Max — для мобільної роботи й великої спільної пам’яті. GB10 — для компактної настільної системи з 128 ГБ пам’яті та готовим NVIDIA-стеком. Робоча станція з дискретною GPU — для максимальної швидкості, апгрейду та кількох прискорювачів.