Под «AI-сервером» могут иметь в виду рабочую станцию для экспериментов, узел инференса, систему для fine-tuning или кластер обучения. Эти варианты различаются по профилю нагрузки, конфигурации памяти, сети и условиям эксплуатации. Поэтому универсальная конфигурация без вводных данных — слабая отправная точка.
1. Определите, какую задачу решает система
Запишите основной сценарий обычными словами: разработчики проверяют модели, сервис отвечает клиентам, сотрудники ищут по внутренним документам или команда обучает модель на собственном наборе данных. Отметьте, нужна ли система для разработки, пилота или постоянного продакшна.
Разделите стадии работы: обучение, адаптация и инференс имеют разные профили. Если в планах несколько сценариев, укажите, какие из них должны работать одновременно, а какие можно выполнять по очереди.
2. Зафиксируйте модель и программный стек
Укажите конкретную модель или хотя бы семейство, способ запуска и программные компоненты, которыми уже пользуется команда. Если модель ещё не выбрана, составьте короткий список кандидатов и отметьте, что повлияет на решение: качество ответа, задержка, приватность, поддерживаемая лицензия или стоимость эксплуатации.
Для оценки памяти важны не только размер весов и выбранная точность. На потребление ресурсов могут влиять метод адаптации, длина контекста, размер пакета, параллельность запросов, кэширование и особенности конкретной реализации. Попросите проверить предполагаемую конфигурацию на вашем стеке или на близком рабочем сценарии; не переносите бенчмарк одной среды на другую без оговорок.
3. Опишите нагрузку и критерий успеха
Для сервиса инференса оцените ожидаемое число одновременных пользователей и характер нагрузки: постоянный поток, пики или внутренние пакетные задания. Укажите приемлемое время ответа и требования к доступности, если они уже определены.
Для обучения опишите объём данных, метод, частоту экспериментов, желаемое время итерации и вероятный рост нагрузки. Не нужно придумывать точные числа на старте: диапазон или «пока неизвестно» полезнее ложной точности. Главное — отделить обязательные требования от предположений.
4. Проверьте место установки
До подбора корпуса и мощности узнайте, где будет размещено оборудование. Для серверной и офиса могут отличаться ограничения по электропитанию, теплу, шуму, габаритам, сети и контролю доступа. Спросите ответственных за площадку о доступных линиях питания, стойке или месте размещения, охлаждении и возможности обслуживания.
Вопросы по электрике и инженерным системам должен подтвердить специалист площадки. Отдельный чек-лист по питанию и охлаждению помогает собрать исходные данные до запроса коммерческого предложения.
5. Сверьте состав предложения
Просите указывать точную комплектацию и условия: модели компонентов, память, накопители, сетевые интерфейсы, резервирование, питание, охлаждение, гарантию, срок и место поставки. Уточните, включены ли настройка, диагностика, доставка и поддержка. Проверяйте совместимость всей системы, а не только отдельных компонентов.
Для сравнения предложений используйте одинаковые вводные и критерии. Если один вариант оценивает только оборудование, а другой включает подготовку и сопровождение, сравните состав по строкам. Цена и наличие должны относиться к указанной конфигурации и дате подтверждения.
Короткий бриф перед подбором
- Сценарий: инференс, обучение, RAG, fine-tuning или несколько задач.
- Модель и программный стек либо список вариантов.
- Нагрузка, число пользователей, пики и желаемое время ответа.
- Объём данных и ожидаемый рост.
- Место установки и известные ограничения площадки.
- Планируемый срок, бюджетный диапазон и требования к поддержке.
Часть полей можно оставить открытыми. Это станет предметом уточнения, а не поводом подменять неизвестные требования догадками. Посмотрите каталог сценариев или подготовьте бриф для первичного разговора.