Self-hosting open-weight LLM против API: реальная математика стоимости

Ваш продукт вышел, он обращается к API LLM, и счёт каждый месяц потихоньку рос. И вот вы делаете то, что рано или поздно делает каждый разработчик: открываете новую вкладку и задумываетесь, не будет ли дешевле арендовать GPU и запускать Llama самостоятельно.

У вопроса о стоимости self-hosting LLM есть ответ, но это не то единственное число, которое повторяют верхние результаты поиска и AI Overviews. Оно зависит от трёх вещей, которые эти статьи сглаживают: с каким API вы сравниваете, насколько загружен ваш GPU и операционные затраты, которые никто не вносит в таблицу.

Вот короткая версия перед деталями: для большинства разработчиков-одиночек self-hosting сейчас не выигрывает по стоимости. Но есть конкретная граница, где всё переворачивается, и вы можете вычислить её на собственном счёте примерно за две минуты. Ниже — математика 2026 года (текущие цены, цифры по VRAM по моделям и формула, которую вы можете применить).

Кратко

• Точка безубыточности — это не одно число. Это три, в зависимости от того, с каким API вы сравниваете. Против фронтирного API (GPT-5.x, Claude Sonnet 5 / Opus 4.8, Gemini Pro) self-hosting достигает безубыточности раньше всего. Против бюджетного open-weight API (DeepSeek, DeepInfra, Together примерно по $0.14–$0.50 за миллион токенов) он почти никогда не выигрывает по одной лишь стоимости.
• Утилизация — тот множитель, который убивает сценарий одиночки. Арендованный GPU стоит одинаково в простое и под полной нагрузкой, так что GPU, работающий при 10% утилизации, стоит примерно в 10× за токен дороже, чем при полной нагрузке. Всплесковые одиночные нагрузки по умолчанию сидят на низкой утилизации.
• Ниже точки безубыточности выигрыш по стоимости обычно в переходе на бюджетный open-weight API, а не в self-hosting. Self-hosting оправдывает себя, когда устойчивый объём против фронтирных цен переступает черту при утилизации 60%+, или когда у вас есть не связанная со стоимостью причина (приватность, задержки, контроль над файн-тюнингом).
• Примените формулу к своим собственным числам, прежде чем что-либо арендовать. Токены безубыточности ≈ месячная стоимость GPU VPS ÷ ваша смешанная цена API за токен.

Чего это не охватывает

• Многоузловые или дата-центрового масштаба кластеры GPU. Это решение о стоимости для одиночки, а не для флота.
• Экономику файн-тюнинга сколько-нибудь глубоко (отдельный расчёт со своими компромиссами).
• Пошаговый туториал по настройке Ollama против vLLM. Тема здесь — вопрос денег, а не установка.
• Собственное железо как ваше основное средство. На протяжении всего текста предполагается арендованный GPU, поскольку это реалистичный путь для разработчика, у которого GPU ещё не стоит на столе.

Что определяет стоимость (и где популярные числа ошибаются)

Поищите «self host LLM vs API cost» — и вы наткнётесь на аккуратную цифру безубыточности: что-то вроде 11 миллиардов токенов в месяц, или около $4,200 месячных трат на API, приводимую в анализе стоимости от braincuber и повторяемую почти дословно в AI Overview наверху страницы. Это чистое число. Оно же и почти бесполезно само по себе, потому что скрывает две переменные, которые решают ваш ответ.

Причина, по которой это скользко, в том, что у двух сторон сравнения разные формы стоимости. Счёт за API — переменная стоимость: вы платите за токен, так что счёт растёт и падает вместе с тем, сколько вы его используете. Арендованный GPU — фиксированная стоимость: вы платите одну и ту же месячную ставку, прогоняете ли вы через него миллиард токенов или оставляете простаивать. Сравнивать переменную стоимость с фиксированной одним числом — значит делать вид, что вы точно знаете, сколько токенов пройдёт, а в масштабе одиночки вы обычно не знаете.

Остаётся три рычага, которые двигают точку безубыточности:

• С каким API вы сравниваете. Фронтирный API и бюджетный open-weight API разделены по цене примерно двумя порядками величины. Безубыточность против каждого дико различается.
• Ваша утилизация GPU. Фиксированная стоимость окупается только если GPU занят. Время простоя — это деньги, потраченные впустую.
• Скрытая операционная стоимость. Ваши часы, круговорот обновлений моделей и сюрпризы с VRAM, которые не всплывают, пока вы не окажетесь в продакшене.

Оцените каждое из этого — и туман рассеется. Об этом и весь остаток статьи.

Вывод раздела: точка безубыточности — не единственное число. Это три числа, по одному на уровень API, и выбор неправильного уровня для сравнения — это то, где большинство оценок стоимости ошибается.

Тройная безубыточность: фронтирный, средний и бюджетный API

Self-hosting open-weight LLM на GPU VPS обыгрывает фронтирный API (класса GPT-5, Claude Sonnet 5 / Opus 4.8, Gemini Pro) примерно при нескольких миллионах токенов в день, при условии что вы держите GPU на здоровой утилизации (скажем, 60% или выше). Против бюджетного open-weight API примерно по $0.14–$0.50 за миллион токенов он редко вообще выигрывает по стоимости. Эта разница — вся суть, и вот почему одно число безубыточности не может быть верным.

Вот как это выглядит по трём уровням. Относитесь к этим порогам как к ориентировочным диапазонам, а не жёстким линиям. Они взяты из оценок сообщества и цен 2026 года, а и то и другое меняется быстро.

Цены со страниц OpenAI, Anthropic, Google, DeepInfra, Together, и DeepSeek по состоянию на July 2026. У каждого из этих чисел срок годности измеряется месяцами, так что проверяйте текущие страницы, прежде чем принимать решение.

Теперь контрарианская мысль, потому что именно она меняет решения. Есть громкий и верный аргумент, что бюджетные API убили безубыточность self-hosting. Open-weight API вроде DeepInfra и Together теперь обслуживают модели Llama и Qwen за долю фронтирных цен, а сами фронтирные цены резко упали с 2025 года. Против этих бюджетных ставок безубыточность за токен уходит в миллиарды токенов в месяц. Соло-предприниматель не прогоняет миллиарды токенов в месяц. Так что если ваша единственная цель — меньший счёт, первый шаг обычно не «арендовать GPU», а «перейти на бюджетный open-weight API и держать ноль операционных затрат».

Обоснование стоимости self-hosting выживает в двух местах: при сравнении против дорогих фронтирных цен на по-настоящему высоком, устойчивом объёме, и в не связанных со стоимостью причинах (приватность, задержки, контроль над файн-тюнингом), рассмотренных ниже. Везде в остальном денежный аргумент выигрывает бюджетный API.

Формула безубыточности

break-even tokens per month ≈ GPU VPS monthly cost ÷ your blended API price per token

Рабочий пример, масштаб соло-предпринимателя: скажем, один топовый GPU VPS обходится примерно в $1,000/месяц (диапазон каталога 2026 года для верхнего одно-GPU уровня), и вы на фронтирном API со смешанной ставкой около $6 за миллион токенов (примерно $0.000006 за токен). Это ~$1,000 ÷ $0.000006 ≈ 167 million токенов/месяц, прежде чем GPU окупится на бумаге. Теперь пересчитаем против бюджетного open-weight API по $0.40 за миллион ($0.0000004/токен): ~$1,000 ÷ $0.0000004 = 2.5 billion токенов/месяц. Тот же GPU, та же фиксированная стоимость, и безубыточность сдвигается более чем в 10× в зависимости чисто от того, какой API вы поставите в знаменатель. И это ещё до утилизации, которая делает число хуже.

Вывод раздела: API, с которым вы сравниваете, может сдвинуть вашу безубыточность в 10× и больше, так что «посчитайте числа» означает считать их против того конкретного API, который вы бы реально заменили.

Что утилизация делает со стоимостью за токен

Возьмите ту фронтирную безубыточность в ~167 миллионов токенов и добавьте переменную, которую формула тихо предполагает несуществующей: ваш GPU занят всё время. Это не так. Арендованный GPU выставляет счёт одинаково, насыщен он или простаивает, так что ваша эффективная стоимость GPU VPS за токен для LLM масштабируется обратно пропорционально утилизации. Работайте при 10% нагрузке — и каждый обслуживаемый вами токен несёт примерно в 10× стоимость, которую нёс бы при полной нагрузке, потому что вы платите за те 90% мощности, которые не использовали. Оценки сообщества и заметки практиков ставят практический порог около 50–60% устойчивой утилизации, прежде чем числа перестают вас смущать (ориентировочные цифры, а не лабораторные константы).

Для всплесковой соло-нагрузки (трафик, который скачет днём и замирает ночью) устойчивую утилизацию в 60% достичь трудно. Вот в чём ловушка. Вот что это делает со стоимостью за миллион токенов в нескольких конкретных точках, используя каталожные цены GPU 2026 года, делённые на грубую месячную пропускную способность на каждом уровне утилизации:

Абсолютные центы за токен зависят от вашей модели, квантования и от того, сколько одновременных запросов вы можете упаковать на карту, так что относитесь к столбцам как к показу формы штрафа, а не как к котировке. Суть в множителе: упадите с полной нагрузки до четверти нагрузки — и ваша стоимость за токен примерно учетверяется. Обычно именно это убивает сценарий соло-self-hosting, а не ценник GPU.

Есть один структурный выход, и это причина, по которой аренда может обыграть владение при всплесковом спросе: вы можете остановить арендованный инстанс, когда он простаивает. Владейте железом — и оно амортизируется и потребляет энергию, используете вы его или нет. При почасовой или on-demand аренде вы можете остановить или снести инстанс, когда работа сделана, и избежать оплаты часов простоя. При фиксированных месячных планах счёт всё равно фиксирован на биллинговый период, так что утилизация остаётся главной проблемой стоимости. Это не чинит нагрузку, которая по-настоящему низкоутилизирована весь день, но для спроса, который занят всплесками и мёртв в промежутках, возможность выключить счётчик — тот единственный рычаг, что наклоняет выбор аренда-против-владения в сторону аренды.

Вывод раздела: утилизация, а не месячная цена GPU, обычно определяет, окупается ли self-hosting, и это та переменная, которую популярные числа безубыточности упускают полностью.

Какая модель подходит какому GPU: реальность VRAM

План, который ломается первым, — это «я просто запущу 70B на 4090». Не запустите. Модель на 70B при квантовании Q4_K_M требует примерно 40–46 GB VRAM, а 24 GB RTX 4090 или 32 GB RTX 5090 попросту не имеет места. Затолкайте её на 24 GB карту — и вы скатываетесь до квантования Q2_K (около 21 GB) с видимой потерей качества, либо модель переливается в системную RAM и скорость генерации обваливается. VRAM — это жёсткая стена, которая решает, какие модели вообще на столе для данного GPU.

Вот что куда влезает. Цифры VRAM приблизительны: они выведены из стандартной арифметики байтов на параметр (FP16 ≈ параметры × 2 с ~15% накладных; Q4_K_M ≈ параметры × ~0.55 с накладными), так что относитесь к ним как к ориентиру по размеру, а не к гарантии.

Цифры VRAM перепроверены по официальным страницам спецификаций GPU от NVIDIA для каждой карты. A100 даёт квантованной 70B более комфортный запас; RTX 6000 Ada может подойти для более тесных Q4-конфигураций, тогда как потребительские карты на 24 GB и 32 GB не имеют достаточно VRAM для нормального развёртывания 70B в Q4. Если хотите полный разбор того, как форматы GGUF, GPTQ, AWQ и EXL2 потребляют память, это кроличья нора, достойная отдельного прочтения: GGUF, GPTQ, AWQ, EXL2: как форматы квантования LLM на самом деле используют память.

Золотая середина сообщества для одиночной 24 GB карты — модель от 24B до 32B (Mistral Small 3.1 или Qwen 3 32B при Q4). Это тот размер, что даёт разработчику-одиночке полезную модель на самом дешёвом уровне GPU без борьбы с VRAM на всём пути. Если вы вообще взвешиваете, какую карту арендовать, наш бенчмарк H100 vs RTX 4090 для ИИ-нагрузок сравнивает уровни по пропускной способности.

Совет профи: закладывайте бюджет на KV cache, а не только на веса. Самый частый сюрприз при первом развёртывании: вы подбираете размер GPU под веса модели, загружаете её, и она влезает. Потом приходят запросы, KV cache растёт с длиной контекста и конкурентностью, и у вас кончается VRAM при обслуживании первых же пользователей. Когда VRAM переполняется и модель переливается на CPU, скорость генерации падает в 10–100×. Оставляйте запас над цифрами весов в таблице под кэш, особенно если вы обслуживаете длинные контексты или несколько пользователей одновременно.

Скрытые затраты, которые стирают наивную экономию

В таблице, которая говорит, что self-hosting дешевле, почти всегда одна строка: месячная цена GPU. В счёте, который вы платите, строк больше. Есть ваше время (каждый час, что вы тратите на патчи, перезапуск зависшего сервера инференса или погоню за крашем из-за нехватки памяти, — это час, который вы не потратили на продукт). Есть круговорот обновлений моделей: open-weight модель, которую вы развернули, устаревает, а повторный бенчмаркинг и повторное развёртывание — это повторяющаяся работа, а не разовая настройка. Есть сюрприз с VRAM и KV-cache из прошлого раздела. И есть простойная растрата — часы, когда GPU сидит и выставляет счёт, пока ничего не работает.

Практики, которые всё это подсчитали, ставят истинную стоимость примерно в 1.3–2× от чистой цены GPU, как только операционное время сложено внутрь, а некоторые идут выше, до 3–5×, на более грязных конфигурациях. Это ориентировочные множители из заметок сообщества, а не аудированные цифры, но суть в направлении. Как выражается одна широко цитируемая формулировка, простаивающий GPU — не актив, это обязательство, оплачиваемое по часам. Для разработчика-одиночки правильный способ оценить это — не строка зарплаты MLOps, а ваши собственные часы, которые есть самая дефицитная вещь, что у вас есть. Если self-hosting экономит вам $200 в месяц на бумаге, но стоит вам шести часов операционки, которые вы иначе потратили бы на выпуск продукта, — это не очевидный выигрыш.

Когда self-hosting всё равно выигрывает: приватность, задержки и файн-тюнинг

Стоимость — не единственная причина запускать собственную модель, а для некоторых разработчиков она даже не главная. Ниже точки безубыточности по стоимости, где деньги говорят «оставайся на API», есть три причины делать self-hosting всё равно. Суверенитет данных: держать промпты и данные ваших пользователей вне конвейера внешнего ИИ-провайдера, что важно для некоторых продуктов вне зависимости от того, что говорят цифры. Предсказуемые задержки: никакой очереди с общими арендаторами, никаких лимитов скорости, которые вы не задавали, никаких внезапных замедлений во время чьего-то чужого всплеска трафика. И полный контроль: свобода файн-тюнить, квантовать, менять модели и фиксировать версии, не дожидаясь вендора.

По поводу приватности есть оговорка, и пропустить её было бы нечестно. Арендованный GPU VPS всё равно работает на чьём-то чужом железе в чьём-то чужом дата-центре. Это значимый суверенитет от конвейера обучения и логирования ИИ-провайдера (ваши промпты не текут через системы вендора модели), но это не то же самое, что оборудование on-premises, которым вы физически владеете. Если ваше требование — истинная изоляция on-prem, арендованный VPS вас туда не доведёт. Если ваше требование — «держать наши данные вне рук стороннего провайдера модели», то доведёт. Знайте, что именно вам нужно.

Для нагрузок, работающих в ограничительных сетевых средах, self-hosted модель на инфраструктуре, которую вы контролируете, может также обойти зависимости от внешних точек входа, которые могут быть недоступны, — это возможность, важная независимо от того, где вы развёртываетесь.

Так стоит ли вам делать self-hosting? Прямой ответ по ситуациям

Всё вышеизложенное складывается в короткое решение. У вас есть счёт, грубое понимание вашего месячного объёма токенов, а теперь и три уровня безубыточности, штраф за утилизацию и множитель скрытых затрат. Сопоставьте свою ситуацию с одной из этих:

• Вы ниже фронтирной безубыточности, и стоимость — ваша единственная забота. Оставайтесь на API и всерьёз прицените бюджетный open-weight API (DeepSeek, DeepInfra, Together) прежде всего остального. Обычно именно это — выигрыш по стоимости, а не self-hosting. Смена API — это изменение конфигурации; self-hosting — вторая работа.
• У вас устойчивый, высокий объём против фронтирных цен, и вы можете держать GPU при утилизации 60%+. Вот где self-hosting окупается. Примените формулу против вашей фронтирной ставки, подтвердите, что вы переступаете порог при устойчивой утилизации (не пиковой), — и арендованный GPU VPS начинает выигрывать.
• У вас есть не связанный со стоимостью драйвер: приватность, задержки или контроль над файн-тюнингом. Делайте self-hosting ниже безубыточности осознанно, с открытыми глазами на то, что вы платите за контроль. Только не убеждайте себя, что это дешевле, если это не так.
• Вы посередине. Посмотрите на гибридный паттерн, к которому в 2026 году приходит большинство практиков: небольшая self-hosted модель для высокообъёмных, простых задач плюс фронтирный API для сложных рассуждений, до которых ваша локальная модель добирается на 85–90% (бенчмарки сообщества, не проверенные в лаборатории, и последний отрезок — часто именно там, где качество нужно вам больше всего).

По вопросу «как мне заполучить GPU» ответ для разработчика-одиночки почти всегда — арендовать, а не покупать. Владение железом дата-центрового класса — это капитальная ставка, которая имеет смысл только на том масштабе, которого у вас пока нет. Serverless-инференс может снизить простойную растрату за счёт масштабирования до нуля и оплаты только за активные вычисления, но он часто обменивает это на более высокую ставку за GPU-час и задержку на холодном старте. Арендованный GPU VPS сидит посередине: никакого капекса, предсказуемый месячный счёт, root-доступ и возможность остановить инстанс, когда он простаивает.

Если вы применили формулу, переступили безубыточность и хотите выделенный, приватный сервер инференса с root-доступом без покупки карты, то это ровно то, для чего нужен арендованный GPU-бокс. Cloudzy планы GPU VPS покрывают диапазон от модели на 8B на одной карте до квантованной 70B, а приложение Ollama в один клик в маркетплейсе разворачивается примерно за минуту с REST API, совместимым с клиентами OpenAI, так что переход с платного API на собственный сервер может быть почти drop-in изменением в вашем коде, без стоимости за токен после фиксированной месячной платы. Проверьте страницу на текущие цены; ставки GPU меняются.

Единственное действие, которое стоит предпринять, прежде чем что-либо арендовать: примените формулу безубыточности к собственному счёту. Это займёт две минуты и скажет вам, в какой из четырёх ситуаций выше вы находитесь.

Часто задаваемые вопросы

Дешевле ли делать self-hosting LLM или использовать API?

Зависит от того, какой API. Self-hosting open-weight модели на GPU VPS может обыграть фронтирный API (класса GPT-5, Claude Sonnet 5 / Opus 4.8) при высоком, устойчивом объёме с хорошей утилизацией GPU. Он редко обыгрывает бюджетный open-weight API (DeepSeek, DeepInfra, Together примерно по $0.14–$0.50 за миллион токенов по состоянию на July 2026) по одной лишь стоимости: эта безубыточность уходит в миллиарды токенов в месяц, которых большинство разработчиков-одиночек никогда не достигают.

Какой GPU мне нужен, чтобы запустить модель на 70B?

Модель на 70B при квантовании Q4_K_M требует примерно 40–46 GB VRAM только под квантованные веса. 80 GB A100 — более безопасный вариант на одном GPU, потому что оставляет место под KV cache, накладные расходы времени выполнения и более длинные промпты. 48 GB RTX 6000 Ada может подойти для более тесных Q4-конфигураций, но длину контекста и конкурентность нужно аккуратно контролировать.

Как утилизация GPU влияет на стоимость за токен?

Арендованный GPU стоит одинаково, простаивает он или полностью загружен, так что ваша эффективная стоимость за токен масштабируется обратно пропорционально утилизации. При 10% нагрузке каждый обслуживаемый вами токен стоит примерно в 10× того, что стоил бы при полной нагрузке, потому что вы платите за неиспользованную мощность. Практический порог, при котором self-hosting начинает иметь смысл, — около 50–60% устойчивой утилизации.

Сколько токенов в месяц, прежде чем self-hosting станет оправдан?

Против фронтирного API ориентировочный порог — примерно 160–256 миллионов токенов в месяц при здоровой утилизации (по состоянию на July 2026). Против бюджетного open-weight API это миллиарды в месяц, фактически недостижимо в одиночку. Точное число зависит от вашей стоимости GPU и смешанной ставки API, так что примените формулу: токены безубыточности ≈ месячная стоимость GPU VPS ÷ ваша цена API за токен, затем сделайте скидку на устойчивую утилизацию.

Могу ли я запустить open-weight LLM на VPS?

Да, на GPU VPS, подобранном под VRAM модели. Инструмент вроде Ollama запускает open-weight модели (Llama, Qwen, Mistral и другие) с развёртыванием в один клик и OpenAI-совместимым REST API, так что ваш существующий код, обращающийся к API, может указывать на ваш собственный сервер с минимальными изменениями. Подберите уровень GPU под вашу модель: 8B комфортно влезает на 24 GB карту, квантованная 70B требует 48–80 GB.