Платформа GPU-сервера / HGX / Hopper
HGX H100 соединяет ускорители Hopper внутри одного серверного узла. Это распространённая конфигурация для распределённого обучения, где важно поддерживать быстрые связи GPU и корректно сбалансировать CPU и сеть.
Подбор зависит от точного SKU, количества GPU, межсоединения, питания и охлаждения серверного шасси.
NVIDIA / ПОДБОР СИСТЕМЫ
На этой странице собраны характеристики NVIDIA HGX H100 и ориентиры для выбора сервера с этим ускорителем. Сама модель GPU не определяет состав узла: сначала сверяют вариант и память — 80 ГБ HBM3 на H100 SXM; 640 ГБ суммарно на 8-GPU узле; затем выбирают совместимый форм-фактор: 8-GPU платформа; готовую систему выпускает OEM-производитель.
При проектировании сервера с NVIDIA HGX H100 важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe, NVLink и NVSwitch. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
МОДЕЛЬ И ПЛАТФОРМА
Ниже — ключевые параметры модели и пункты, которые стоит проверить до запроса коммерческого предложения.
NVIDIA описывает 80 ГБ HBM3 на GPU и NVLink в HGX H100; фактическая система зависит от производителя и комплектации.
HGX H100 соединяет ускорители Hopper внутри одного серверного узла. Это распространённая конфигурация для распределённого обучения, где важно поддерживать быстрые связи GPU и корректно сбалансировать CPU и сеть.
Обучение и дообучение, многопользовательский inference, HPC.
При проектировании сервера с NVIDIA HGX H100 важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe, NVLink и NVSwitch. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
Проверить SKU сервера, сетевые карты, воздушное или жидкостное охлаждение и энергобюджет.
В предложении фиксируют точную модель, количество ускорителей, платформу, сеть, питание и охлаждение. Это позволяет сравнить технически сопоставимые варианты и проверить их для вашей площадки.
Размер модели, контекст, пользователей и требование к скорости помогают определить нужный объём памяти и число ускорителей.
80 ГБ HBM3 на H100 SXM; 640 ГБ суммарно на 8-GPU узле. Сопоставьте это с форм-фактором: 8-GPU платформа; готовую систему выпускает OEM-производитель.
Проверить SKU сервера, сетевые карты, воздушное или жидкостное охлаждение и энергобюджет. Также подтвердите сеть, электропитание, отвод тепла и доступное место в стойке.
ВОПРОСЫ ПО МОДЕЛИ
Коротко отвечаем о применении, комплектации и формировании предложения.
NVIDIA HGX H100 рассматривают для сценариев: обучение и дообучение, многопользовательский inference, HPC. Итоговая система должна соответствовать размеру модели, памяти на GPU и межсоединению ускорителей.
80 ГБ HBM3 на H100 SXM; 640 ГБ суммарно на 8-GPU узле. При нескольких ускорителях объёмы можно суммировать только как физическую ёмкость; доступность общего пула зависит от архитектуры и программного стека.
От точной модели и количества ускорителей, OEM-платформы, CPU, объёма RAM, накопителей, сети, питания, охлаждения и условий поставки. Сравнивать предложения корректно по одной спецификации и одинаковым условиям гарантии.
AI SERVER LAB / CONFIGURATION
Модель уже будет указана в форме. Добавьте задачу и ограничения площадки — подготовим вариант конфигурации для обсуждения.
