GPU-ускоритель / Hopper
Ускоритель для обучения больших моделей, многопользовательского инференса и задач HPC. Версия H100 и тип соединения между GPU влияют на достижимую конфигурацию сервера.
Подбор зависит от точного SKU, количества GPU, межсоединения, питания и охлаждения серверного шасси.
NVIDIA / ПОДБОР СИСТЕМЫ
На этой странице собраны характеристики NVIDIA H100 и ориентиры для выбора сервера с этим ускорителем. Сама модель GPU не определяет состав узла: сначала сверяют вариант и память — H100 SXM — 80 ГБ HBM3; объём и тепловой пакет у PCIe / NVL версий отличаются; затем выбирают совместимый форм-фактор: PCIe, SXM и NVL — совместимость зависит от серверной платформы.
При проектировании сервера с NVIDIA H100 важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe, NVLink и NVSwitch. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
МОДЕЛЬ И ПЛАТФОРМА
Ниже — ключевые параметры модели и пункты, которые стоит проверить до запроса коммерческого предложения.
Hopper и Tensor Core; конкретные возможности зависят от SKU и прошивки системы.
Ускоритель для обучения больших моделей, многопользовательского инференса и задач HPC. Версия H100 и тип соединения между GPU влияют на достижимую конфигурацию сервера.
Обучение LLM, inference с высокой пропускной способностью, дообучение, научные вычисления.
При проектировании сервера с NVIDIA H100 важно не складывать только паспортные показатели отдельных карт. Память GPU обычно остаётся распределённой по ускорителям, а скорость совместной работы зависит от PCIe, NVLink и NVSwitch. В техническом задании полезно указать размер модели, контекст, число параллельных запросов и ожидаемую нагрузку на обучение или инференс.
Сопоставить PCIe / SXM / NVL с шасси; проверить память конкретной платы, межсоединение GPU, питание и охлаждение.
В предложении фиксируют точную модель, количество ускорителей, платформу, сеть, питание и охлаждение. Это позволяет сравнить технически сопоставимые варианты и проверить их для вашей площадки.
Размер модели, контекст, пользователей и требование к скорости помогают определить нужный объём памяти и число ускорителей.
H100 SXM — 80 ГБ HBM3; объём и тепловой пакет у PCIe / NVL версий отличаются. Сопоставьте это с форм-фактором: PCIe, SXM и NVL — совместимость зависит от серверной платформы.
Сопоставить PCIe / SXM / NVL с шасси; проверить память конкретной платы, межсоединение GPU, питание и охлаждение. Также подтвердите сеть, электропитание, отвод тепла и доступное место в стойке.
ВОПРОСЫ ПО МОДЕЛИ
Коротко отвечаем о применении, комплектации и формировании предложения.
NVIDIA H100 рассматривают для сценариев: обучение LLM, inference с высокой пропускной способностью, дообучение, научные вычисления. Итоговая система должна соответствовать размеру модели, памяти на GPU и межсоединению ускорителей.
H100 SXM — 80 ГБ HBM3; объём и тепловой пакет у PCIe / NVL версий отличаются. При нескольких ускорителях объёмы можно суммировать только как физическую ёмкость; доступность общего пула зависит от архитектуры и программного стека.
От точной модели и количества ускорителей, OEM-платформы, CPU, объёма RAM, накопителей, сети, питания, охлаждения и условий поставки. Сравнивать предложения корректно по одной спецификации и одинаковым условиям гарантии.
AI SERVER LAB / CONFIGURATION
Модель уже будет указана в форме. Добавьте задачу и ограничения площадки — подготовим вариант конфигурации для обсуждения.
