Чем MetaX отличается от NVIDIA в поставке и поддержке

При сравнении ускорителей MetaX и NVIDIA обычно разбирают производительность и программный стек. Но в проекте закупки не меньше весит вторая часть вопроса — как устроена поставка и что входит в поддержку. Здесь различия заметнее технических: по срокам, по форме заказа, по составу документов, по порядку гарантийной замены и по тому, где лежит ответственность за совместимость узла.

Ниже разобрано, чем различаются поставка и поддержка по двум направлениям и какие вопросы закрываются в договоре до оплаты. Направления описаны на страницах ускорителей MetaX и ускорителей NVIDIA.

Форма заказа — карты или собранный узел

Это первое расхождение, и оно определяет, кто отвечает за работоспособность конфигурации.

• Карты отдельно. Ускорители ставятся в платформу, которая уже есть или закупается самостоятельно. Ответственность за совместимость, питание и продув остаётся на стороне, которая собирает узел.
• Собранный узел. Платформа, карты, питание и охлаждение поставляются вместе и проверяются до отгрузки. Для исполнений в формате OAM это, как правило, единственный разумный путь — такие модули устанавливаются на базовую плату платформы, а не в слот расширения.
• Чем это различается по направлениям. Для NVIDIA парк серверных платформ и перечни совместимости широкие, поэтому вариант с картами отдельно встречается чаще. Для MetaX перечень проверенных платформ уже, и узел чаще собирается целиком — это снимает вопрос совместимости с заказчика.
• Что проверяется в обоих случаях. Исполнение карты, габарит и число слотов, разъёмы питания, поддержка в прошивке платформы и организация продува. Порядок проверки — в статьях Как проверить совместимость ускорителя с серверной платформой и Как подбирают серверную платформу под карты MetaX в исполнении PCIe.
• Исполнение OAM. Требования к платформе разобраны в статье Что проверить в серверной платформе под карты MetaX в исполнении OAM.

Сроки и наличие

Сроки зависят не от направления как такового, а от того, насколько позиция ходовая и в каком исполнении она нужна.

• Ходовые позиции. По обоим направлениям есть исполнения, которые поставляются из складских остатков, и исполнения, которые заказываются под проект с ожиданием производства.
• Исполнения под кластер. Модули для плотного монтажа и платформы под них почти всегда заказные — срок складывается из производства платформы, сборки и проверки узла.
• Размер партии. Единичные карты и партия на кластер — разные сроки: при партии добавляется время на синхронную поставку платформ, питания и связности.
• Что делать при отсутствии нужной модели. Варианты — ждать, брать смежное исполнение с пересчётом конфигурации или менять схему узла. Разбор — в статье Что делать, когда нужной модели ускорителя нет в наличии.
• Чего мы не делаем. Не обещаем сроков, не подтверждённых поставщиком на момент заказа: по обоим направлениям срок фиксируется в спецификации, а не оценивается приблизительно.

Проверка партии до отгрузки

Порядок проверки для обоих направлений одинаков по смыслу, но различается по тому, что именно подтверждается.

• Подлинность и происхождение. Сверяются маркировка, серийные номера и соответствие заявленному исполнению. Для NVIDIA это особенно важно из-за широкого вторичного рынка и перемаркированных карт.
• Работоспособность. Карты устанавливаются в платформу, проверяются определение в системе, объём памяти, нагрузочный прогон и температурный режим.
• Комплектность. Кронштейны, переходники питания, элементы охлаждения в комплекте либо отдельно — это сверяется со спецификацией.
• Протокол. По партии оформляется протокол с серийными номерами, он же используется при гарантийном обращении. Порядок — в статье Как проверяем ускорители NVIDIA перед отгрузкой партии.

Гарантия и замена

Здесь различия самые заметные для эксплуатации, и они закрепляются в договоре.

• Срок и предмет гарантии. Указывается на карту и отдельно на платформу, если узел собран. При сборке узла несколькими поставщиками границы ответственности прописываются, иначе отказ разбирается между сторонами за счёт времени простоя.
• Порядок замены. Отправка отказавшей карты и ожидание замены либо предварительная выдача подменной. Второй вариант сокращает простой, но оговаривается заранее. Порядок по MetaX разобран в статье Как организована замена ускорителя MetaX по гарантии, по NVIDIA — в статье Как заменить отказавший ускоритель в работающем узле.
• Запас на площадке. Для парка из нескольких узлов практичнее держать карту в запасе, чем рассчитывать на срок доставки замены. Доля запаса считается от числа карт и допустимого простоя.
• Что прекращает гарантию. Эксплуатация за пределами допустимой температуры, нарушение требований к питанию и продуву, вмешательство в систему охлаждения. Это одинаково для обоих направлений и фиксируется протоколами условий эксплуатации.
• Смена поколений. При обновлении парка важно, поставляется ли предыдущее исполнение на замену. Что меняется в проекте при смене поколения, разобрано в статье Что меняется в проекте при смене поколения ускорителей MetaX.

Программный стек и его обновление

Поддержка — это не только замена отказавшей карты, но и то, как обновляется программная часть.

• Состав комплекта. Драйвер, библиотеки, средства наблюдения за загрузкой и температурой, сборки популярных сред. Что входит в комплект MetaX и что собирается самостоятельно, разобрано в статье Что входит в программный комплект ускорителей MetaX.
• Перенос расчётов. При переходе между направлениями часть кода переносится, часть пересобирается. Перечень проверок — в статьях Перенос обучения и инференса на MetaX и Переход с ускорителей NVIDIA на MetaX.
• Порядок обновления. Версии драйвера и библиотек закрепляются под проверенную конфигурацию, обновление планируется на окно обслуживания. Разбор — в статье Обновление драйверов и библиотек на сервере с ускорителями.
• Смешанный парк. Если в парке есть оба направления, задачи распределяются по типу карт, а среды исполнения держатся раздельно.

Сравнение по условиям поставки и поддержки

Документы и учёт

• Спецификация. Исполнение карты, объём памяти, формат исполнения, комплектность, срок поставки. Для узла добавляется состав платформы.
• Документы для учёта и ввоза. Перечень одинаков по направлениям и разобран в статье Какие документы на ускорители нужны бухгалтерии и таможне.
• Договор поставки. Сроки, порядок приёмки, гарантийные условия, порядок замены, ответственность за комплектность. Состав разобран в статье Что входит в договор поставки ускорителей MetaX.
• Расчёт затрат на срок владения. Помимо цены карт учитываются питание, обслуживание, запас и обновление программной части. Порядок — в статье Как считается стоимость владения парком ускорителей за три года.

Частые вопросы

Что проще закупить — карты или собранный узел?
Карты отдельно оправданы, когда платформа уже есть и подтверждена в перечне совместимости. Если платформа закупается вместе с картами или исполнение требует базовой платы, выгоднее узел целиком: совместимость, питание и продув проверяются до отгрузки, а гарантия распространяется на конфигурацию, а не на отдельные части.

Можно ли держать в одном парке оба направления?
Можно, при раздельных средах исполнения и распределении задач по типу карт. Как распределяется нагрузка в смешанном парке, разобрано в статье Как разделить ресурсы ускорителей между командами.

Что происходит, если отказ проявляется в узле, собранном из разных источников?
Разбор начинается с определения отказавшей части, и если границы ответственности в договорах не разделены, это занимает время. Поэтому при сборке из разных источников границы расписываются заранее, а протоколы приёмки и условий эксплуатации сохраняются.

Нужна ли подменная карта на площадке?
Это зависит от допустимого простоя. Если остановка расчётов на срок доставки замены неприемлема, запас закладывается при закупке парка — отдельной картой или резервным узлом. Решение принимается расчётом, а не по умолчанию.

Чем подтверждается заявленное исполнение карты до оплаты?
Спецификацией с точным обозначением исполнения и объёмом памяти, а после поступления партии — протоколом проверки с серийными номерами и результатами нагрузочного прогона. Для NVIDIA это основной способ отсечь перемаркированные карты с вторичного рынка.

Что прислать для подбора. Задачу и размер модели, требуемую производительность или число потоков, наличие и модель серверной платформы, выделенную мощность и условия охлаждения, требования по срокам поставки и допустимому простою, перечень используемых сред и библиотек, планируемый объём партии.

Что мы делаем

Подбираем исполнение ускорителей под задачу, собираем спецификацию с платформой, питанием и связностью, проверяем партию до отгрузки с протоколом по серийным номерам, закрепляем в договоре сроки, порядок приёмки и условия гарантийной замены, передаём документы для учёта и ввоза и помогаем с запасом на площадке. Направления — ускорители MetaX и ускорители NVIDIA.

Пришлите задачу и параметры площадки на sale@tkasiatorg.ru — подберём исполнение, рассчитаем конфигурацию узла и подтвердим сроки поставки спецификацией.