Аренда мощностей или закупка ускорителей MetaX — что считать
Какие величины сопоставляются при выборе между арендой и закупкой, как считается стоимость владения и при какой загрузке собственный парк выгоднее.
Вычислительные мощности под обучение и инференс берут двумя способами: арендуют у поставщика услуг либо закупают оборудование и размещают его у себя или в коммерческом центре обработки данных. Выбор определяется не общей стоимостью часа, а профилем загрузки, требованиями к размещению данных и горизонтом планирования. Ниже — какие величины сопоставляются, как считается стоимость владения и в какой точке закупка ускорителей MetaX становится выгоднее аренды.
Что входит в каждый вариант
| Статья | Аренда мощностей | Закупка оборудования |
|---|---|---|
| Начальные вложения | Отсутствуют | Оборудование, монтаж, ввод в работу |
| Платёж | За фактические часы работы | Постоянный — амортизация, размещение, питание |
| Питание и охлаждение | Входит в тариф | Считается отдельно по потреблению |
| Размещение | Площадка поставщика услуг | Своё помещение или стойко-места в аренду |
| Обслуживание | На стороне поставщика | Свой персонал либо сервисный договор |
| Доступность в пик | Зависит от свободных мощностей поставщика | Гарантирована составом парка |
| Расположение данных | Определяется площадкой поставщика | Полностью под контролем владельца |
| Остаточная стоимость | Отсутствует | Есть, зависит от поколения и состояния |
Главная величина расчёта — загрузка
Аренда оплачивается по факту, закупка — постоянно вне зависимости от того, считает ли оборудование. Поэтому первое, что считается, — доля времени, в течение которой мощности действительно загружены.
- Разовые и редкие задачи. Обучение под конкретный проект раз в квартал, эксперименты, разовая обработка набора данных. Загрузка — единицы процентов. Аренда выгоднее с большим запасом.
- Периодическая загрузка. Регулярные циклы дообучения, сезонная обработка. Загрузка 20–40 %. Решение зависит от тарифа и от того, совпадают ли пики с пиками спроса у поставщика услуг.
- Постоянная загрузка. Инференс в промышленной эксплуатации, непрерывное обучение. Загрузка выше 60–70 %. Закупка обычно окупается за срок, сопоставимый с поколением оборудования.
- Смешанный профиль. Постоянный инференс и редкие пики обучения. Практичный вариант — собственный парк под базовую нагрузку и аренда под пики.
Загрузку считают не по расписанию проектов, а по журналу выполнения задач за прошедший период. Планируемая загрузка почти всегда оказывается выше фактической.
Из чего складывается стоимость владения
- Оборудование. Ускорители, серверные платформы под них, сетевое оборудование для связи узлов, хранилище под наборы данных.
- Размещение. Стойко-места или собственное помещение с подведённой мощностью и охлаждением. Плотность стойки под ускорители выше обычной, и не каждая площадка её принимает.
- Электроэнергия. Считается по потреблению узлов с коэффициентом на охлаждение. Для узла с несколькими ускорителями это заметная статья при круглосуточной работе.
- Обслуживание. Замена отказавших устройств, обновление программного стека, мониторинг. Либо свой персонал, либо договор.
- Складской запас. Один-два устройства на парк, чтобы отказ не выводил узел из работы на срок поставки.
- Доставка и ввод в работу. Логистика, таможенное оформление, монтаж, пусконаладка — разовые затраты первого периода.
Сравнение ведётся по суммарным затратам за одинаковый период — обычно три года, по сроку до смены поколения. Для аренды берётся тариф, умноженный на планируемые часы; для закупки — сумма перечисленных статей за тот же период, за вычетом остаточной стоимости.
Что не сводится к деньгам
- Расположение данных. Если наборы данных не могут покидать контур организации, аренда у внешнего поставщика отпадает независимо от расчёта.
- Предсказуемость доступа. Собственный парк доступен всегда. Арендованные мощности нужного типа в пиковые периоды могут оказаться заняты.
- Скорость запуска. Аренда даёт мощности сразу, закупка требует срока поставки и ввода в работу.
- Гибкость по типу устройств. У поставщика услуг выбор ограничен его парком. Собственная закупка позволяет подобрать конфигурацию под конкретную задачу.
- Объём данных. Если набор данных измеряется десятками терабайт, его передача на внешнюю площадку становится отдельной задачей и отдельной статьёй расходов.
Промежуточный вариант — пилот перед закупкой
Практичный порядок для организации, которая ещё не знает своего профиля загрузки: арендовать мощности на период проверки, измерить фактическую загрузку и время выполнения типовых задач, и только затем считать закупку под измеренные величины. Пилот даёт две вещи сразу — понимание требуемой конфигурации и фактические данные для расчёта.
При переходе от аренды к собственному парку проверяется переносимость задач: программные стеки различаются, и перенос обучения и инференса требует проверки на конкретной платформе. Подбор конфигурации под измеренную нагрузку — часть работ по подбору оборудования.
Что закладывается в конфигурацию при закупке
- Число ускорителей на узел. Определяется задачей: обучение крупной модели требует связности между устройствами, инференс чаще распараллеливается по независимым устройствам.
- Связность узлов. Сеть между узлами становится ограничением при распределённом обучении и закладывается вместе с ускорителями.
- Хранилище. Пропускная способность хранилища должна закрывать подачу данных, иначе ускорители простаивают.
- Питание и охлаждение стойки. Считается по паспортному потреблению узлов с запасом; для плотных конфигураций рассматривается жидкостное охлаждение.
- Запас на рост. Свободные посадочные места и запас по питанию дешевле заложить сразу, чем переделывать стойку.
Если рассматривается парк со смешанным составом, конфигурации под MetaX и под NVIDIA считаются раздельно: различаются программные стеки, требования к питанию и схемы связности.
Частые вопросы
При какой загрузке закупка начинает выигрывать? Порог зависит от тарифа и стоимости размещения, но ориентир для трёхлетнего горизонта — устойчивая загрузка выше 50–60 %. Ниже этой величины аренда обычно дешевле.
Учитывается ли остаточная стоимость оборудования? Да, она вычитается из суммарных затрат. Величина зависит от поколения и состояния и заметно снижается с выходом нового поколения.
Можно ли разместить закупленное оборудование в коммерческом центре обработки данных? Да, это промежуточный вариант: капитальные вложения в оборудование, а размещение и энергоснабжение — по договору. Проверяется допустимая мощность на стойку.
Что делать при неопределённой нагрузке? Начинать с аренды и измерять. Закупка под предполагаемую нагрузку чаще приводит к простаивающему парку, чем к нехватке мощностей.
Что прислать для расчёта? Тип задач, размер моделей и наборов данных, планируемое число часов работы в месяц, требования к расположению данных и доступные параметры площадки по мощности и охлаждению.
Что мы делаем
Поставляем ускорители MetaX и серверные платформы под них, считаем конфигурацию под измеренную нагрузку, проверяем требования к питанию и охлаждению площадки, ведём поставку и ввод в работу. Состав работ — в разделах подбора оборудования и проектирования, материалы по кластерам — в блоге направления.
Напишите на sale@tkasiatorg.ru профиль нагрузки и параметры площадки — посчитаем конфигурацию и сопоставим её с арендой по суммарным затратам за три года.
