Какой ускоритель берут под инженерные расчёты и визуализацию

Ускоритель, подобранный под обучение моделей, не обязательно подходит под расчёт прочности, течения или теплообмена. Расчётные пакеты требуют двойной точности и работают с сеткой, а не с весами модели; задачи визуализации и рендера опираются на графический конвейер и аппаратные кодеки. Поэтому профиль нагрузки определяется до подбора карты: по нему расходятся и требования к разрядности, и требования к памяти, и перечень поддерживаемых производителем пакета исполнений.

Ниже разобрано, чем нагрузка инженерных расчётов и визуализации отличается от задач машинного обучения, как распределяются по этим задачам позиции линейки и что проверяется до закупки. Направление — вычисления для ИИ и HPC на базе NVIDIA.

Чем расчётная нагрузка отличается от обучения моделей

• Разрядность вычислений. Пакеты конечно-элементного анализа и расчёта течения считают в двойной точности, часть задач допускает одиночную. Обучение моделей, напротив, ведётся в 16-битных и смешанных форматах. У вычислительных карт производительность двойной точности составляет заметную долю от одиночной, у карт, ориентированных на графику и инференс, двойная точность реализована по остаточному принципу — разница между классами достигает десятков раз.
• Объём памяти определяется сеткой. Потребность растёт с числом элементов и числом степеней свободы, а не с размером модели. Задача, не укладывающаяся в память карты, делится по областям расчёта, и к требованиям добавляется обмен между картами.
• Чувствительность к памяти с коррекцией ошибок. Длительный расчёт, идущий часы и сутки, не должен прерываться или давать неверный результат из-за единичной ошибки памяти, поэтому ECC для расчётных задач обязателен.
• Графический конвейер и кодеки. Визуализация результатов, рендер и работа с трёхмерной геометрией опираются на блоки, которых у карт, рассчитанных только на вычисления, может не быть или они представлены ограниченно.
• Повторяемость результата. Для расчётов важно получать совпадающий результат при повторном запуске, что накладывает ограничения на схемы распараллеливания и на настройки библиотек.
• Привязка к пакету. Производитель расчётного пакета публикует перечень поддерживаемых карт и драйверов, и выход за этот перечень означает работу без поддержки, даже если формально карта подходит по характеристикам.

Как распределяются позиции линейки

• NVIDIA H200 и H100 — вычислительные карты с высокой производительностью двойной точности, большой памятью и быстрой межкарточной шиной. Основной выбор под расчёт течения, прочности, теплообмена и под задачи, где домен делится между картами.
• NVIDIA A100 — предыдущее поколение вычислительных карт с памятью 40 и 80 ГБ. Остаётся востребованным под расчётные задачи, когда важнее доступность позиции и стоимость, чем максимальная производительность.
• NVIDIA L40S — универсальная карта с развитым графическим конвейером и кодеками. Берётся под визуализацию, рендер, трёхмерную геометрию и смешанные задачи, где к расчёту добавляется графика. Двойная точность у этого исполнения ограничена, поэтому в чистых расчётных задачах оно не применяется.
• NVIDIA L4 — энергоэффективная карта под потоковую обработку видео и инференс в плотных стойках. Для расчётных задач двойной точности не предназначена.
• Аналоги. Позиции MetaX подбираются по тем же признакам, но перечень поддерживаемых пакетов и программный стек у них свои, поэтому совместимость с расчётным пакетом проверяется отдельно, до закупки узлов.

Соответствие задач и исполнений

Что проверяется под конкретный расчётный пакет

Подбор карты под расчёты начинается не с характеристик, а с документации пакета. Пакет определяет и перечень исполнений, и способ лицензирования, и достижимое ускорение.

• Перечень поддерживаемых карт и версий драйвера в документации пакета на используемую версию, а не на последнюю выпущенную.
• Какие именно решатели ускоряются на карте. В большинстве пакетов ускоряется часть решателей, остальные остаются на процессоре, и выигрыш считается по доле ускоряемого этапа в общем времени расчёта.
• Схема лицензирования. Лицензия может считаться по числу карт, по числу процессорных ядер или по узлам. Это влияет на выбор между большим числом слабых карт и меньшим числом сильных.
• Поддержка нескольких карт в одной задаче и требования к обмену между ними. Если пакет не распараллеливает расчёт между картами, вторая карта ускорит не одну задачу, а поток из нескольких.
• Требования к виртуализации, если карта делится между пользователями. Разделение поддерживается не всеми исполнениями и не всеми пакетами.

Где конфигурация упирается не в карту

• Процессор и память узла. Неускоряемые этапы расчёта и подготовка данных выполняются на процессоре, и при слабой процессорной части карта простаивает.
• Хранилище. Результаты расчёта и промежуточные файлы занимают значительный объём, а запись идёт крупными порциями — требования к скорости и объёму считаются вместе с конфигурацией карт.
• Рабочие места. Если результаты смотрят удалённо, нагрузка на визуализацию переносится на сервер, и под неё закладывается отдельный пул карт с графическим конвейером.
• Питание и охлаждение. Расчётная задача держит карту под нагрузкой непрерывно, в отличие от импульсной нагрузки инференса, поэтому потребление считается по длительному режиму.
• Лицензии на пакет. Нередко стоимость лицензий под расширенную конфигурацию превышает стоимость самих карт, и конфигурация подбирается с учётом этой части сметы.

Частые вопросы

Подойдёт ли карта для инференса под инженерный расчёт? Для задач, которым нужна двойная точность, нет: у таких исполнений она ограничена, и расчёт будет медленнее, чем на процессорном узле. Для визуализации и рендера подобные карты применимы.

Нужна ли память с коррекцией ошибок? Для длительных расчётов да. Единичная неисправленная ошибка памяти в многочасовой задаче обесценивает результат, а факт ошибки без ECC не фиксируется.

Что даст вторая карта в узле? Это зависит от пакета. Если расчёт распараллеливается между картами, сокращается время одной задачи; если нет, растёт число задач, выполняемых одновременно. Второй вариант тоже имеет смысл, но считается иначе.

Можно ли совмещать расчёты и обучение моделей на одном парке? Можно, если разделить пулы по типам карт: вычислительные исполнения под расчёты и обучение, карты с графическим конвейером под визуализацию. Смешивание задач на одном пуле приводит к простою одной из групп.

Что прислать для расчёта конфигурации? Название и версию расчётного пакета, типы решаемых задач, характерный размер модели или сетки, требуемое время расчёта, схему лицензирования, число пользователей визуализации, подведённую мощность на стойку и состав имеющегося оборудования.

Что мы делаем

Разбираем профиль нагрузки и требования расчётного пакета, подбираем исполнение под разрядность, память и графику, проверяем совместимость с серверной платформой и запас по питанию, считаем конфигурацию узла вместе с процессорной частью и хранилищем, поставляем отдельные карты либо собранные и проверенные под нагрузкой узлы и сопровождаем парк после запуска. Направления — NVIDIA и MetaX.

Пришлите используемый расчётный пакет и параметры задач на sale@tkasiatorg.ru — подберём исполнение под ваш профиль нагрузки и назовём конфигурацию со сроками поставки.