GPU-ускоритель / AMD CDNA 3 / Instinct MI300
Ускоритель для генеративного AI и HPC с крупной ёмкостью HBM. Платформа Instinct объединяет несколько OAM-модулей и использует Infinity Fabric; конкретную серверную систему определяет OEM.
Подбор зависит от точного SKU, количества GPU, межсоединения, питания и охлаждения серверного шасси.
AMD / ПОДБОР СИСТЕМЫ
На этой странице собраны характеристики AMD Instinct MI300X и ориентиры для выбора сервера с этим ускорителем. Сама модель GPU не определяет состав узла: сначала сверяют вариант и память — 192 ГБ HBM3 и около 5,3 ТБ/с по официальному описанию MI300X; затем выбирают совместимый форм-фактор: OAM-ускоритель для платформ и серверов AMD Instinct.
При проектировании сервера с AMD Instinct MI300X важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe и межсоединение платформы AMD, например Infinity Fabric / xGMI. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
МОДЕЛЬ И ПЛАТФОРМА
Ниже — ключевые параметры модели и пункты, которые стоит проверить до запроса коммерческого предложения.
CDNA 3; MI300X не включает CPU-ядер Zen 4 в одном пакете, в отличие от MI300A.
Ускоритель для генеративного AI и HPC с крупной ёмкостью HBM. Платформа Instinct объединяет несколько OAM-модулей и использует Infinity Fabric; конкретную серверную систему определяет OEM.
Обучение и inference больших моделей, многокарточные узлы, HPC.
При проектировании сервера с AMD Instinct MI300X важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe и межсоединение платформы AMD, например Infinity Fabric / xGMI. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
Проверить тип платформы/OAM, число GPU, готовность ROCm-стека и библиотек, межсоединение, тепловой режим и поддержку OEM.
В предложении фиксируют точную модель, количество ускорителей, платформу, сеть, питание и охлаждение. Это позволяет сравнить технически сопоставимые варианты и проверить их для вашей площадки.
Размер модели, контекст, пользователей и требование к скорости помогают определить нужный объём памяти и число ускорителей.
192 ГБ HBM3 и около 5,3 ТБ/с по официальному описанию MI300X. Сопоставьте это с форм-фактором: OAM-ускоритель для платформ и серверов AMD Instinct.
Проверить тип платформы/OAM, число GPU, готовность ROCm-стека и библиотек, межсоединение, тепловой режим и поддержку OEM. Также подтвердите сеть, электропитание, отвод тепла и доступное место в стойке.
ВОПРОСЫ ПО МОДЕЛИ
Коротко отвечаем о применении, комплектации и формировании предложения.
AMD Instinct MI300X рассматривают для сценариев: обучение и inference больших моделей, многокарточные узлы, HPC. Итоговая система должна соответствовать размеру модели, памяти на GPU и межсоединению ускорителей.
192 ГБ HBM3 и около 5,3 ТБ/с по официальному описанию MI300X. При нескольких ускорителях объёмы можно суммировать только как физическую ёмкость; доступность общего пула зависит от архитектуры и программного стека.
От точной модели и количества ускорителей, OEM-платформы, CPU, объёма RAM, накопителей, сети, питания, охлаждения и условий поставки. Сравнивать предложения корректно по одной спецификации и одинаковым условиям гарантии.
AI SERVER LAB / CONFIGURATION
Модель уже будет указана в форме. Добавьте задачу и ограничения площадки — подготовим вариант конфигурации для обсуждения.
