Помню этот запах. Смесь горячей пыли, дешевого пластика и озона. Так пахла моя первая "серверная" — кладовка 2х2 метра, куда мы с партнером запихнули три стойки с GPU, чтобы обучать модели компьютерного зрения для ритейла. Мы чувствовали себя королями кремния. У нас было свое железо.

Через три месяца мы поняли, что мы не короли, а уборщики.

Один блок питания сгорел, унеся с собой материнскую плату. Кондиционер потек прямо на стойку (классика, о которой все шутят, пока это не случится с ними). А потом пришел счет за электричество, который съел всю маржу от пилотного проекта.

С тех пор я стал циником. Когда ко мне приходит стартап и говорит: "Мы закладываем 3 миллиона рублей на закупку A100/H100 или пачки 4090", я достаю калькулятор.

Сегодня мы посчитаем реальную стоимость владения "своим железом" и сравним её с распределенной арендой мощностей через платформы вроде Qudata. Спойлер: математика вам не понравится.

Миф о «бесплатном» собственном железе

Главная ошибка малого бизнеса — считать стоимость оборудования по чеку из магазина.

«Мы купим две RTX 4090 по 250 тысяч рублей, и они будут работать на нас бесплатно три года».

Нет, не будут.

Железо имеет подлое свойство простаивать. Вы спите — GPU простаивает. Вы пишете код и отлаживаете архитектуру модели — GPU простаивает. Вы уехали в отпуск — GPU собирает пыль.

Я провел замеры в трех своих последних проектах. Реальная загрузка ("utilization") собственных серверов на этапе R&D редко превышает 15-20% времени. Остальное время карты просто греют воздух в режиме idle, потребляя 30-50 Вт каждая.

Если размазать стоимость карты (500к рублей за пару) не на 3 года, а на реальные часы обучения, цена часа улетает в космос. А ведь есть еще амортизация. RTX 3090, которая два года назад стоила как крыло самолета, сегодня на вторичке идет с дисконтом 60%.

Распределенные вычисления: взгляд изнутри

Теперь про альтернативу. Qudata и подобные платформы (по сути, уберизация GPU) предлагают арендовать мощности у тех, у кого они простаивают. Это могут быть дата-центры, майнеры, переключившиеся на ML, или просто энтузиасты.

Я протестировал этот подход на задаче файн-тюнинга Llama-3-8b.

Сценарий:

Нужно дообучить модель на специфическом юридическом датасете. Объем данных — 15 ГБ. Расчетное время обучения — 40 часов на одной RTX 4090.

Свое железо: 0 рублей (если уже купили) + электричество. Но если покупать ради проекта — окупаемость наступит примерно никогда.
Гиперскейлеры (AWS/Google): Ценник за GPU-инстанс такого уровня — около $1.5 - $2 в час. Итого $60-80 за прогон. Надежно, но дорого. Плюс налоги, плюс сложности с оплатой из РФ.
Qudata (распределенная аренда): Здесь можно найти 4090 за $0.4 - $0.5 в час. Итого $16-20.

Разница с облаком в 4 раза. Разница со своим железом — отсутствие головной боли с администрированием "железяки".

Где подвох? технические нюансы аренды

Я не буду врать, что тут все гладко. Когда вы арендуете распределенные мощности, вы попадаете в дикий мир Docker-контейнеров.

Главная проблема — это данные.

В архитектуре Qubu (и Qudata под капотом) используется MinIO (S3-совместимое хранилище), которое часто развернуто локально на сервере арендодателя. Это круто для скорости обучения: данные лежат рядом с картой. Но их туда надо доставить.

Если у вас датасет на 500 ГБ, время заливки на арендованную машину может съесть всю экономию.

Мой хак: я храню "золотые образы" датасетов упакованными в архивы и использую aria2 для многопоточной загрузки на инстанс при старте. Это быстрее, чем git clone или стандартные загрузчики.

Второй момент — стабильность.

Это не AWS. Хост (владелец видеокарты) может случайно выдернуть шнур, у него может отвалиться интернет.

Поэтому писать код нужно параноидально.

Чекпоинты каждые 30 минут.
Синхронизация весов во внешнее хранилище сразу после эпохи.
Логирование не в файл внутри контейнера, а во внешнюю систему.

Если вы пишете код так, будто сервер сгорит через 5 минут, распределенные облака — это золотая жила.

Экономика терафлопса

Давайте сведем цифры. Я вывел метрику "Стоимость эффективного Терафлопса".

Представим малую ML-студию (3 разработчика). Им нужно суммарно около 200 часов обучения в месяц на мощностях уровня 4090.

Вариант А: Свой сервер (2x4090)

Капитальные затраты (CapEx): ~600 000 руб (карты + обвязка).
Электричество + обслуживание: ~5 000 руб/мес.
Через 2 года сервер стоит 200 000 руб. Убыток на амортизации: 400 000 руб.
Итого за 2 года: 400к + 120к (свет) = 520 000 руб.
Цена часа: ~108 рублей.

Вариант Б: Аренда в Qudata

Средняя цена часа: 45-50 рублей (по текущему курсу токена).
Оплата только за потребление (Pay-as-you-go).
Итого за 2 года (при той же нагрузке): 216 000 - 240 000 руб.

Экономия в два раза. И это при условии, что ваш сервер не ломался, не требовал апгрейда памяти и вы не тратили время сисадмина на настройку драйверов CUDA, которые слетают после обновления Ubuntu.

Когда все-таки стоит покупать?

Я не против собственного железа категорически. Есть два кейса, когда я скажу клиенту "покупай":

Безопасность параноидального уровня. Если данные нельзя выпускать за пределы физического контура офиса (гостайна, жесткие NDA, медицинская первичка). Хотя тут вопросы шифрования, но юристы обычно непреклонны.
Inference 24/7 с ровной нагрузкой. Если ваша модель крутится в продакшене и обрабатывает поток видео с камер наблюдения круглосуточно, аренда станет дороже покупки через 6-8 месяцев. Тут свое железо выигрывает.

Но для обучения, экспериментов, проверки гипотез и R&D — покупка серверов сегодня выглядит как покупка лошади для поездок в офис. Вроде престижно, но парковать негде, и кормить надо постоянно.

Что в итоге

Мы живем в странное время. Вычислительная мощность стала товаром, как гречка или бензин. Раньше, чтобы обучить нейросеть, ты должен был быть системным администратором. Теперь ты просто открываешь терминал, пишешь конфиг для Docker-контейнера и через 5 минут у тебя под капотом 80 гигабайт видеопамяти.

Мой совет: перестаньте инвестировать в железо, которое устаревает быстрее, чем вы дописываете код. Инвестируйте в датасеты и архитектуру. А терафлопсы проще взять в аренду — благо, рынок сейчас на стороне покупателя.

Экономика терафлопса: почему я перестал строить свои фермы и начал арендовать «воздух»

Похожие статьи

Поделиться в соц. сетях

Комментарии