Что меняется в проекте при смене поколения ускорителей MetaX

Внутри линейки MetaX соседние исполнения различаются не только объёмом памяти. При переходе от карт серии C500 к C588 и дальше к C600 меняется форм-фактор, предел масштабирования, потребление на ускоритель и допустимый тип охлаждения — то есть параметры, от которых зависит проект стойки, а не только строка спецификации.

Ниже разобрано, что именно пересчитывается при смене поколения, что происходит со смешанным парком и какая часть проекта остаётся без изменений. Модельный ряд и условия внедрения — на странице направления GPU-ускорители MetaX.

Чем различаются исполнения линейки

Из таблицы видно, где проходит граница между поколениями. Пока ускоритель ставится в слот, проект узла остаётся привычным. Переход на исполнение OAM переносит питание, обмен и охлаждение на уровень базовой платы и шасси, а потребление на ускоритель вырастает почти втрое.

Что пересчитывается в стойке

• Подведённая мощность. Карта на 350 Вт и модуль на 1000 Вт дают разную нагрузку на узел, и при той же высоте стойки число узлов в ней будет другим.
• Отвод тепла. Воздушное охлаждение остаётся возможным не во всех конфигурациях, а жидкостный контур — это отдельный проект с трассами, теплообменником и регламентом обслуживания.
• Масса и глубина узла. Шасси с базовой платой заметно тяжелее и длиннее сервера с картами, и это проверяется по допустимой нагрузке и глубине шкафа.
• Резервирование питания. При отказе одного блока узел должен сохранять работу под нагрузкой, и схема резервирования пересчитывается под новое потребление.
• Источник бесперебойного питания — по мощности и по времени, нужному для корректного завершения расчётов.

Что меняется в схеме масштабирования

• Предел объединения карт в одну вычислительную группу растёт от двух-четырёх к восьми, затем к десяткам и сотням ускорителей. Это меняет не только возможности, но и требования к сети между узлами.
• Появляется разделение на внутреннюю шину между ускорителями и сеть Ethernet между узлами — вместе с ней в проект входят коммутаторы, кабельная инфраструктура и схема адресации.
• Оптическое исполнение межкарточной шины снимает ограничение по длине соединений, но добавляет требования к монтажу и к обслуживанию оптики.
• Доступный объём памяти в группе меняет постановку задачи: модель, которая раньше делилась между узлами, может уместиться в один узел, и схема распределения расчёта пересматривается.
• Хранилище и сеть доступа к данным проверяются заново: более производительный узел быстрее исчерпывает пропускную способность канала к данным.

Что происходит со смешанным парком

• Ускорители разных поколений в одной задаче обучения не объединяют: расчёт идёт по самому медленному участку, а разница в объёме памяти ограничивает размер модели.
• Рабочее решение — разделение по типам задач: новые узлы под обучение и дообучение, прежние карты под инференс, видеоаналитику, тестовые прогоны и разработку.
• Система управления задачами должна различать типы узлов и направлять задание на подходящий, иначе часть парка простаивает, а часть перегружена.
• Запас комплектующих ведётся раздельно по поколениям: карты и модули разных исполнений не заменяют друг друга.
• Планируется срок, до которого прежнее поколение остаётся в работе — от него зависит объём страхового запаса и условия обслуживания.

Что остаётся без изменений

• Программный стек MXMACA общий для линейки: он ориентирован на совместимость с привычными фреймворками, и перенос типовых задач между исполнениями ограничивается настройкой окружения.
• Подход к виртуализации и разделению ресурсов между командами сохраняется, меняется только количество доступных ресурсов на узел.
• Порядок внедрения остаётся прежним: разбор задачи, подбор конфигурации, проверка совместимости платформы, запуск с переносом расчётов и сопровождение.
• Проверка на своей нагрузке остаётся обязательной. Производительность на конкретной задаче подтверждается пилотом, а не паспортными характеристиками поколения.

Как планируется переход

• Снимаются фактические показатели текущего парка: загрузка, время обучения, объём занятой памяти, узкие места по сети и хранилищу.
• Определяется, что именно ограничивает задачу — память, скорость обмена между картами или пропускная способность канала к данным. От ответа зависит, нужно ли менять поколение или достаточно добавить карты текущего.
• Проверяется площадка: подведённая мощность, возможность организовать жидкостное охлаждение, допустимая нагрузка на шкаф и пол.
• Собирается пилотная конфигурация, на ней прогоняются собственные модели и снимается сравнение с действующим парком.
• По результатам собирается спецификация под серию с графиком поставки, планом подготовки площадки и схемой распределения задач между старыми и новыми узлами.

Частые вопросы

Можно ли добавить ускоритель нового поколения в существующий сервер? Если новое исполнение остаётся в формате PCIe — вопрос решается проверкой платформы, блока питания и охлаждения. Исполнение OAM в слот не ставится и требует узла с базовой платой.

Обязательно ли переходить на жидкостное охлаждение? Нет, конфигурации с воздушным охлаждением предусмотрены. Выбор зависит от числа модулей в узле, числа узлов в стойке и возможностей площадки по расходу воздуха и температуре на входе.

Что делать с прежними картами? Они остаются в работе на задачах инференса, видеоаналитики и разработки. Полная замена парка одновременно требуется редко — чаще поколения работают параллельно с разделением по типам задач.

Нужно ли переписывать код под новое поколение? Стек общий для линейки, поэтому перенос задач обычно сводится к настройке окружения и проверке работы на новой конфигурации. Объём работ уточняется на пилоте.

Что прислать для расчёта? Модели и профиль нагрузки, объём данных, текущую конфигурацию парка и её загрузку, подведённую мощность на стойку, возможности по охлаждению, планируемый срок перехода и бюджетные ограничения.

Что мы делаем

Разбираем текущую конфигурацию и определяем, что ограничивает задачу, подбираем исполнение и схему масштабирования, проверяем площадку по питанию и охлаждению, собираем пилот с прогоном ваших моделей и по его результатам формируем спецификацию под серию с графиком поставки. Модельный ряд и порядок внедрения — на странице GPU-ускорители MetaX, линейка привычных ускорителей — на странице NVIDIA.

Пришлите текущую конфигурацию парка, профиль нагрузки и параметры площадки на sale@tkasiatorg.ru — посчитаем конфигурацию под переход, проверим питание и охлаждение и предложим пилот на своей нагрузке.