Чем MetaX C500 заменяет NVIDIA A100 в существующем парке

Парк на ускорителях предыдущего поколения продолжает работать, но расширять его нечем: карт этого класса в поставке всё меньше, а сроки растут. Вопрос ставится так — какой ускоритель встаёт в ту же роль, что и NVIDIA A100, и что при этом меняется в железе и в программной части. У MetaX эту роль закрывает C500, а для более лёгких задач — N260.

Ниже — по каким характеристикам сопоставляются карты, что переносится без изменений, что требует настройки и какие данные нужны для расчёта конфигурации. Подробнее о линейке — в разделе GPU MetaX, о сопоставлении с исходным парком — в разделе GPU NVIDIA.

Что с чем сопоставляется

Потребление C500 — до 350 Вт, что соответствует классу заменяемой карты и обычно не требует пересчёта питания стойки при замене один к одному. Это первое, что проверяется: если в узле стояли карты меньшей мощности, а ставятся более тяжёлые, расчёт стойки делается заново.

Что сравнивается кроме памяти

1. Объём памяти на карту. Определяет, помещается ли модель целиком и какой размер пакета данных возможен. Это первый ограничитель при обучении.
2. Коррекция ошибок памяти. На длительных расчётах единичный сбой бита без коррекции означает потерю прогона. В линейке она есть, и для обучения это обязательный пункт.
3. Шина к процессору. Поколение и число линий PCIe. При переносе в существующую платформу сверяется, какое поколение поддерживает материнская плата.
4. Межкарточное соединение. MetaXLink объединяет карты внутри узла; для пула большего размера используется сетевое масштабирование. Схема выбирается под характер задачи, а не по максимуму.
5. Охлаждение. Воздушное или жидкостное исполнение. Для плотных конфигураций старших моделей воздушного охлаждения может не хватать.
6. Поддержка виртуализации. Нужна, когда карту делят между командами или между задачами разного приоритета.

Что меняется в программной части

Прикладной код пишется на уровне фреймворка, а не на уровне низкоуровневых библиотек производителя, поэтому основной объём переносится настройкой окружения. Платформа MXMACA ориентирована на совместимость с привычными фреймворками, и перенос типовых конвейеров обычно ограничивается сборкой окружения и проверкой версий.

Переделки требуют участки, завязанные на конкретную реализацию: собственные вычислительные ядра, написанные под низкоуровневый интерфейс исходного производителя; сборки библиотек, скомпилированные под конкретную архитектуру; профилировщики и средства трассировки. Эти места выявляются на пилоте, а не на бумаге.

Что показала независимая проверка

В исследовании Московского физико-технического института ускорители показали стабильный запуск популярных моделей и предсказуемую производительность, в ряде сценариев превзойдя NVIDIA A100. Практический вывод из этого один: сопоставимость подтверждена на наборе типовых моделей, но для конкретной задачи решает замер на своём коде и своих данных. Поэтому перед закупкой парка берётся пилотный сервер.

Порядок перехода

1. Зафиксировать текущие показатели. Время обучения или отклика, занятая память, размер пакета данных, загрузка карт на рабочей нагрузке.
2. Проверить платформу. Поколение шины, посадочные места, блоки питания, отвод тепла в корпусе и в стойке.
3. Взять пилотный сервер. Один узел с целевой конфигурацией карт, на нём собирается окружение и переносится один рабочий конвейер.
4. Сравнить показатели. Те же метрики на той же задаче — это и есть ответ на вопрос о замене.
5. Посчитать конфигурацию парка. Число карт и узлов под требуемое время расчёта, схема масштабирования, запас по питанию и охлаждению.
6. Спланировать этапность. Старый и новый парк какое-то время работают вместе, и распределение задач между ними закладывается заранее.

Что проверяется у поставщика

• Повторяемость поставки. Сможете ли вы через год-два докупить такую же карту в ту же конфигурацию.
• Обновления драйверов и библиотек. Кто их выпускает и как они доходят до вас.
• Регламент реакции на отказ. Срок замены и наличие запаса критичных позиций.
• Документы на поставку. Договор и спецификация, подтверждение происхождения, сертификаты — состав уточняется под процедуру закупки.
• Контроль партии перед отгрузкой. Фиксация серийных номеров и проверка карт до отправки.

Частые вопросы

Можно ли поставить карты MetaX в существующий сервер? Часто да — сверяются поколение шины, высота и длина карты, мощность блоков питания и отвод тепла в корпусе. Проверка делается по конкретной модели платформы до заказа.

Заработают ли модели без переписывания кода? Типовые конвейеры на распространённых фреймворках переносятся настройкой окружения. Собственные низкоуровневые ядра и жёстко собранные библиотеки требуют пересборки.

Можно ли смешивать карты разных производителей в одном узле? Технически возможно, практически нежелательно: разные программные стеки в одном узле усложняют эксплуатацию. Разделение обычно делают по узлам.

С чего начать, если решение ещё не принято? С пилота на одном сервере: он даёт замер на вашей задаче и позволяет посчитать конфигурацию парка по фактическим, а не заявленным числам.

Что прислать для расчёта? Модель и объём данных, требуемую память, режим работы, текущие показатели парка, модель серверной платформы и параметры стойки по питанию и охлаждению.

Что мы делаем

Подбираем карты под задачу, проверяем совместимость с платформой до поставки, собираем пилот, переносим конвейеры, считаем конфигурацию парка и ведём поставку с интеграцией и сопровождением. Другие материалы направления — в разделе блога GPU и AI, перечень направлений — в разделе направлений.

Пришлите описание задачи и показатели текущего парка на sale@tkasiatorg.ru — подберём конфигурацию, организуем пилот и посчитаем поставку.