Что делать, когда нужной модели ускорителя нет в наличии
По каким признакам задачи ищется замена ускорителя, какие пути есть помимо смены модели, что меняется в серверной платформе и что нужно прислать для расчёта.
Ускорители вычислений покупаются под конкретную задачу, а поставляются партиями с ограниченной доступностью. Ситуация, когда выбранная модель недоступна в нужном количестве или в нужный срок, встречается регулярно. Подбор замены при этом ведётся не «по ближайшему названию», а по четырём измеримым признакам задачи, и результат либо укладывается в требования, либо требует изменения конфигурации узла.
Ниже — по каким признакам ищется замена, какие пути есть помимо смены модели, что меняется в серверной платформе и что нужно прислать для расчёта. Линейки и условия поставки приведены на страницах GPU-ускорители NVIDIA и GPU-ускорители MetaX.
Какие признаки задачи определяют замену
- Объём памяти на карту. Для обучения это главный ограничитель: модель с оптимизатором и активациями должна разместиться в памяти, иначе задача не запускается вовсе, а не просто идёт медленнее.
- Пропускная способность памяти. Определяет скорость на задачах, где данные читаются потоком, — обучение больших моделей и часть расчётных задач.
- Режим работы. Обучение, дообучение и инференс предъявляют разные требования: на инференсе вместо старшей карты часто достаточно нескольких младших с меньшим потреблением.
- Схема масштабирования. Если задача требует обмена между картами, важна не производительность одной карты, а способ их связи внутри узла и между узлами.
- Ограничения по питанию и охлаждению стойки. Замена на карту с большим потреблением упирается не в совместимость, а в расчёт стойки.
Какие пути рассматриваются, кроме смены модели
| Путь | Когда подходит | Что придётся пересчитать |
|---|---|---|
| Больше карт младшей модели | Инференс, видеоаналитика, задачи без интенсивного обмена между картами | Число разъёмов расширения в платформе, питание узла, суммарное тепловыделение |
| Меньше карт старшей модели | Обучение, где важен объём памяти на карту | Мощность блоков питания, охлаждение, стоимость узла |
| Ускоритель другого производителя | Есть время на проверку переноса задач | Программное окружение, схема масштабирования, порядок обслуживания |
| Разбивка поставки на этапы | Проект допускает запуск на части мощности | Схему кластера на промежуточную и конечную конфигурацию |
| Аренда мощности на время поставки | Задача идёт непрерывно и её нельзя останавливать | Перенос данных и требования по их размещению |
Что рассматривается как аналог
В линейке NVIDIA флагманские позиции распределены по задачам: H200 — максимальная память и пропускная способность для обучения больших моделей и расчётных задач, H100 — обучение и инференс в многокарточных конфигурациях, L40S — универсальная карта для инференса, графики и видеоаналитики, L4 — энергоэффективное исполнение для инференса и потоковой обработки видео в плотных стойках. Замена внутри линейки подбирается по объёму памяти и режиму работы, а не по месту в иерархии.
Когда сроки или бюджет не позволяют дождаться нужной позиции, рассматриваются ускорители MetaX. MetaX C500 — исполнение PCIe с 64 ГБ памяти с коррекцией ошибок и связью MetaXLink на две или четыре карты, потребление до 350 Вт; это аналог уровня A100. MetaX N260 — 24–32 ГБ памяти HBM2 с коррекцией ошибок, PCIe Gen4 и поддержка виртуализации, аналог уровня A30 и V100. Подробнее — на странице ускорители MetaX.
Что меняется в серверной платформе
- Число и тип разъёмов расширения. Карты двойной ширины занимают два места, и заявленное число разъёмов не равно числу устанавливаемых карт.
- Мощность и число блоков питания. При замене на карты с большим потреблением проверяется не только суммарная мощность, но и число линий питания нужного типа.
- Охлаждение. Карты пассивного исполнения рассчитаны на продув корпусом сервера и требуют подтверждённой поддержки платформой; исполнение с собственным вентилятором в плотную стойку не ставится.
- Состав процессоров и памяти узла. При увеличении числа карт растёт требование к числу линий PCIe и к объёму оперативной памяти узла.
- Стойка. Питание, охлаждение и связность узлов проверяются до заказа — порядок разобран в материале о подготовке стойки в подтеме инфраструктура кластера.
Как ведётся подбор замены
- Фиксируются требования задачи: модель, объём данных, требуемая память, режим работы и целевое время расчёта.
- Составляется перечень вариантов — по числу карт, по модели и по производителю, — и для каждого считается конфигурация узла целиком, а не только карта.
- Проверяется совместимость с платформой: процессоры, блоки питания, корпус и матрицы поддержки.
- Оценивается, что меняется в программном окружении и сколько времени займёт проверка переноса задач.
- Партия перед отгрузкой проходит фиксацию серийных номеров, фотосъёмку и видеосъёмку, пломбирование упаковки и прогон под нагрузкой.
- Комплектуются документы для закупки и бухгалтерии: договор и спецификация, универсальный передаточный документ, сертификаты, подтверждение происхождения.
Частые вопросы
Можно ли заменить одну старшую карту на две младшие? Для инференса и видеоаналитики — часто да. Для обучения это работает только тогда, когда модель размещается в памяти одной младшей карты; иначе разбивка по картам требует другой схемы обучения и обмена данными.
Сколько времени занимает проверка переноса задач на ускоритель другого производителя? Зависит от того, насколько типовое у вас окружение. Перенос обычных конвейеров ограничивается настройкой окружения, нестандартные операции и собственные ядра требуют отдельной проверки.
Что делать, если нужна именно заявленная модель? Тогда рассматриваются этапная поставка и временная аренда мощности. Подмена модели без согласования не выполняется — состав фиксируется в спецификации.
Встанет ли новая карта в имеющийся сервер? Проверяется по матрицам поддержки платформы, числу и типу разъёмов, мощности блоков питания и схеме продува корпуса. Физическая установка ещё не означает штатной работы под нагрузкой.
Что прислать для расчёта? Задачу и модель, объём данных, требуемую память, режим работы, целевое время расчёта, модель серверной платформы, мощность на стойку и допустимое тепловыделение, а также срок, к которому нужна мощность.
Что мы делаем
Разбираем требования задачи, подбираем варианты замены с расчётом конфигурации узла целиком, проверяем совместимость с платформой и питание стойки, оцениваем объём работ по переносу задач, ведём поставку с проверкой партии и комплектом документов. Направления — ускорители NVIDIA и ускорители MetaX.
Пришлите задачу и параметры платформы на sale@tkasiatorg.ru — подберём замену под ваши требования, посчитаем конфигурацию узла и назовём сроки поставки.

