GPU-ускоритель / AMD CDNA 4 / Instinct MI350
Флагманский ускоритель серии MI350 для AI и HPC. Вместительная высокоскоростная HBM3E-память рассчитана на крупные рабочие наборы, однако производительность проекта определяется также точностью вычислений и софтом.
Подбор зависит от точного SKU, количества GPU, межсоединения, питания и охлаждения серверного шасси.
AMD / ПОДБОР СИСТЕМЫ
На этой странице собраны характеристики AMD Instinct MI355X и ориентиры для выбора сервера с этим ускорителем. Сама модель GPU не определяет состав узла: сначала сверяют вариант и память — 288 ГБ HBM3E, 8 ТБ/с и OAM по официальной карточке AMD; затем выбирают совместимый форм-фактор: Серверный OAM-модуль; также доступны готовые платформы MI350 Series.
При проектировании сервера с AMD Instinct MI355X важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe и межсоединение платформы AMD, например Infinity Fabric / xGMI. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
МОДЕЛЬ И ПЛАТФОРМА
Ниже — ключевые параметры модели и пункты, которые стоит проверить до запроса коммерческого предложения.
AMD указывает CDNA 4, 288 ГБ HBM3E, 8 ТБ/с и формат OAM. Значения не следует автоматически переносить на все серверы серии.
Флагманский ускоритель серии MI350 для AI и HPC. Вместительная высокоскоростная HBM3E-память рассчитана на крупные рабочие наборы, однако производительность проекта определяется также точностью вычислений и софтом.
Обучение больших моделей, inference, научные вычисления и плотная GPU-инфраструктура.
При проектировании сервера с AMD Instinct MI355X важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe и межсоединение платформы AMD, например Infinity Fabric / xGMI. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
Подтвердить OEM-совместимость, теплопакет/охлаждение OAM, rack-level питание и поддержку нужных библиотек в ROCm.
В предложении фиксируют точную модель, количество ускорителей, платформу, сеть, питание и охлаждение. Это позволяет сравнить технически сопоставимые варианты и проверить их для вашей площадки.
Размер модели, контекст, пользователей и требование к скорости помогают определить нужный объём памяти и число ускорителей.
288 ГБ HBM3E, 8 ТБ/с и OAM по официальной карточке AMD. Сопоставьте это с форм-фактором: Серверный OAM-модуль; также доступны готовые платформы MI350 Series.
Подтвердить OEM-совместимость, теплопакет/охлаждение OAM, rack-level питание и поддержку нужных библиотек в ROCm. Также подтвердите сеть, электропитание, отвод тепла и доступное место в стойке.
ВОПРОСЫ ПО МОДЕЛИ
Коротко отвечаем о применении, комплектации и формировании предложения.
AMD Instinct MI355X рассматривают для сценариев: обучение больших моделей, inference, научные вычисления и плотная GPU-инфраструктура. Итоговая система должна соответствовать размеру модели, памяти на GPU и межсоединению ускорителей.
288 ГБ HBM3E, 8 ТБ/с и OAM по официальной карточке AMD. При нескольких ускорителях объёмы можно суммировать только как физическую ёмкость; доступность общего пула зависит от архитектуры и программного стека.
От точной модели и количества ускорителей, OEM-платформы, CPU, объёма RAM, накопителей, сети, питания, охлаждения и условий поставки. Сравнивать предложения корректно по одной спецификации и одинаковым условиям гарантии.
AI SERVER LAB / CONFIGURATION
Модель уже будет указана в форме. Добавьте задачу и ограничения площадки — подготовим вариант конфигурации для обсуждения.
