Платформа GPU-сервера / HGX / Hopper
HGX H200 подходит для многокарточных систем, где объём памяти каждого GPU критичен для модели. Точный выбор зависит от того, нужны ли именно SXM-ускорители и поддерживает ли их выбранный корпус.
Подбор зависит от точного SKU, количества GPU, межсоединения, питания и охлаждения серверного шасси.
NVIDIA / ПОДБОР СИСТЕМЫ
На этой странице собраны характеристики NVIDIA HGX H200 и ориентиры для выбора сервера с этим ускорителем. Сама модель GPU не определяет состав узла: сначала сверяют вариант и память — 141 ГБ HBM3e на H200 SXM; около 1,1 ТБ HBM3e на восьми GPU; затем выбирают совместимый форм-фактор: OEM-серверы HGX с NVLink/NVSwitch и подходящим тепловым решением.
При проектировании сервера с NVIDIA HGX H200 важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe, NVLink и NVSwitch. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
МОДЕЛЬ И ПЛАТФОРМА
Ниже — ключевые параметры модели и пункты, которые стоит проверить до запроса коммерческого предложения.
NVIDIA приводит 141 ГБ HBM3e на H200 SXM и 4,8 ТБ/с пропускной способности памяти GPU.
HGX H200 подходит для многокарточных систем, где объём памяти каждого GPU критичен для модели. Точный выбор зависит от того, нужны ли именно SXM-ускорители и поддерживает ли их выбранный корпус.
Инференс больших моделей, обучение, HPC.
При проектировании сервера с NVIDIA HGX H200 важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe, NVLink и NVSwitch. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
Тип охлаждения, OEM-модель, топологию GPU, power/cooling и поддержку ROCm/CUDA приложений в выбранной среде.
В предложении фиксируют точную модель, количество ускорителей, платформу, сеть, питание и охлаждение. Это позволяет сравнить технически сопоставимые варианты и проверить их для вашей площадки.
Размер модели, контекст, пользователей и требование к скорости помогают определить нужный объём памяти и число ускорителей.
141 ГБ HBM3e на H200 SXM; около 1,1 ТБ HBM3e на восьми GPU. Сопоставьте это с форм-фактором: OEM-серверы HGX с NVLink/NVSwitch и подходящим тепловым решением.
Тип охлаждения, OEM-модель, топологию GPU, power/cooling и поддержку ROCm/CUDA приложений в выбранной среде. Также подтвердите сеть, электропитание, отвод тепла и доступное место в стойке.
ВОПРОСЫ ПО МОДЕЛИ
Коротко отвечаем о применении, комплектации и формировании предложения.
NVIDIA HGX H200 рассматривают для сценариев: инференс больших моделей, обучение, HPC. Итоговая система должна соответствовать размеру модели, памяти на GPU и межсоединению ускорителей.
141 ГБ HBM3e на H200 SXM; около 1,1 ТБ HBM3e на восьми GPU. При нескольких ускорителях объёмы можно суммировать только как физическую ёмкость; доступность общего пула зависит от архитектуры и программного стека.
От точной модели и количества ускорителей, OEM-платформы, CPU, объёма RAM, накопителей, сети, питания, охлаждения и условий поставки. Сравнивать предложения корректно по одной спецификации и одинаковым условиям гарантии.
AI SERVER LAB / CONFIGURATION
Модель уже будет указана в форме. Добавьте задачу и ограничения площадки — подготовим вариант конфигурации для обсуждения.
