GPU-ускоритель / AMD CDNA 3 / Instinct MI300
MI325X развивает платформу MI300X и увеличивает объём HBM3E на ускоритель. При сравнении серверов важны модель точности, размер модели и доступные для выбранной платы межсоединения.
Подбор зависит от точного SKU, количества GPU, межсоединения, питания и охлаждения серверного шасси.
AMD / ПОДБОР СИСТЕМЫ
На этой странице собраны характеристики AMD Instinct MI325X и ориентиры для выбора сервера с этим ускорителем. Сама модель GPU не определяет состав узла: сначала сверяют вариант и память — 256 ГБ HBM3E и 6 ТБ/с по официальным материалам AMD; затем выбирают совместимый форм-фактор: OAM-модуль для серверных платформ Instinct.
При проектировании сервера с AMD Instinct MI325X важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe и межсоединение платформы AMD, например Infinity Fabric / xGMI. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
МОДЕЛЬ И ПЛАТФОРМА
Ниже — ключевые параметры модели и пункты, которые стоит проверить до запроса коммерческого предложения.
AMD указывает 256 ГБ HBM3E и пиковую пропускную способность 6 ТБ/с; фактическая система зависит от OEM-платформы.
MI325X развивает платформу MI300X и увеличивает объём HBM3E на ускоритель. При сравнении серверов важны модель точности, размер модели и доступные для выбранной платы межсоединения.
Inference и обучение моделей, которым требуется большая память одного GPU, а также HPC.
При проектировании сервера с AMD Instinct MI325X важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe и межсоединение платформы AMD, например Infinity Fabric / xGMI. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
Восьми-GPU или иной вариант узла, поддержку платы и ROCm, сетевую fabric, охлаждение OAM и конфигурацию RAM.
В предложении фиксируют точную модель, количество ускорителей, платформу, сеть, питание и охлаждение. Это позволяет сравнить технически сопоставимые варианты и проверить их для вашей площадки.
Размер модели, контекст, пользователей и требование к скорости помогают определить нужный объём памяти и число ускорителей.
256 ГБ HBM3E и 6 ТБ/с по официальным материалам AMD. Сопоставьте это с форм-фактором: OAM-модуль для серверных платформ Instinct.
Восьми-GPU или иной вариант узла, поддержку платы и ROCm, сетевую fabric, охлаждение OAM и конфигурацию RAM. Также подтвердите сеть, электропитание, отвод тепла и доступное место в стойке.
ВОПРОСЫ ПО МОДЕЛИ
Коротко отвечаем о применении, комплектации и формировании предложения.
AMD Instinct MI325X рассматривают для сценариев: inference и обучение моделей, которым требуется большая память одного GPU, а также HPC. Итоговая система должна соответствовать размеру модели, памяти на GPU и межсоединению ускорителей.
256 ГБ HBM3E и 6 ТБ/с по официальным материалам AMD. При нескольких ускорителях объёмы можно суммировать только как физическую ёмкость; доступность общего пула зависит от архитектуры и программного стека.
От точной модели и количества ускорителей, OEM-платформы, CPU, объёма RAM, накопителей, сети, питания, охлаждения и условий поставки. Сравнивать предложения корректно по одной спецификации и одинаковым условиям гарантии.
AI SERVER LAB / CONFIGURATION
Модель уже будет указана в форме. Добавьте задачу и ограничения площадки — подготовим вариант конфигурации для обсуждения.
