Ваш продукт виходить, він викликає LLM API, і рахунок щомісяця повзе вгору. Тож ви робите те, що врешті-решт робить кожен білдер: відкриваєте нову вкладку й замислюєтеся, чи не було б дешевше орендувати GPU та запускати Llama самостійно.
Питання про вартість самостійного розміщення LLM має відповідь, але це не те єдине число, яке весь час повторюють у топових результатах пошуку та AI Overviews. Воно залежить від трьох речей, які ці статті сплющують: з яким API ви порівнюєте, наскільки завантажений ваш GPU, і операційна вартість, яку ніхто не вносить у таблицю.
Ось коротка версія перед деталями: для більшості соло-білдерів самостійне розміщення зараз не виграє за вартістю. Але є конкретна межа, де все перевертається, і ви можете обчислити її на власному рахунку приблизно за дві хвилини. Нижче — математика 2026 року (актуальні ціни, числа VRAM за моделями та формула, яку ви можете запустити).
Коротко
- Точка беззбитковості — це не одне число. Це три, залежно від того, з яким API ви порівнюєте. Проти передового API (GPT-5.x, Claude Sonnet 5 / Opus 4.8, Gemini Pro) самостійне розміщення досягає беззбитковості найшвидше. Проти бюджетного open-weight API (DeepSeek, DeepInfra, Together приблизно за $0.14–$0.50 за мільйон токенів) воно майже ніколи не виграє за самою лише вартістю.
- Утилізація — це множник, який убиває соло-сценарій. Орендований GPU коштує стільки ж на холостому ходу, скільки й під повним навантаженням, тож GPU, що працює на 10% утилізації, коштує приблизно в 10× за токен від того, скільки він коштує під повним навантаженням. Нерівномірні соло-навантаження за замовчуванням сидять на низькій утилізації.
- Нижче точки беззбитковості виграш за вартістю зазвичай — це перехід на бюджетний open-weight API, а не самостійне розміщення. Самостійне розміщення виправдовує себе, коли стабільний обсяг проти передового ціноутворення переступає межу при утилізації 60%+, або коли у вас є не пов'язана з вартістю причина (приватність, затримка, контроль над донавчанням).
- Запустіть формулу на власних числах, перш ніж щось орендувати. Токени беззбитковості ≈ місячна вартість GPU VPS ÷ ваша змішана ціна API за токен.
Що це не охоплює
- Багатовузлові чи датацентрового масштабу GPU-кластери. Це рішення про соло-вартість, а не про флот.
- Економіку донавчання в будь-якій глибині (окремий розрахунок зі своїми компромісами).
- Покроковий посібник із налаштування Ollama проти vLLM. Обсяг тут — це грошове питання, а не встановлення.
- Власне залізо як основний варіант. Припущення протягом усього тексту — це орендований GPU, оскільки це реалістичний шлях для білдера, у якого GPU ще немає на столі.
Що визначає вартість (і де популярні числа помиляються)
Пошукайте «self host LLM vs API cost», і ви натрапите на охайну цифру беззбитковості: щось на кшталт 11 мільярдів токенів на місяць чи близько $4 200 місячних витрат на API, наведену в аналізі вартості від braincuber і повторену майже дослівно в AI Overview угорі сторінки. Це чисте число. Воно також майже марне саме по собі, бо ховає дві змінні, що вирішують вашу відповідь.
Причина, чому це слизько, у тому, що дві сторони порівняння мають різні форми вартості. Рахунок за API — це змінна вартість: ви платите за токен, тож рахунок масштабується вгору та вниз залежно від того, наскільки ви ним користуєтеся. Орендований GPU — це фіксована вартість: ви платите ту саму місячну ставку, чи проганяєте крізь нього мільярд токенів, чи даєте йому простоювати. Порівняти змінну вартість із фіксованою одним числом означає вдавати, що ви точно знаєте, скільки токенів протече, а на соло-масштабі зазвичай не знаєте.
Це залишає три важелі, що рухають точку беззбитковості:
- З яким API ви порівнюєте. Передовий API і бюджетний open-weight API розділені приблизно двома порядками величини в ціні. Точка беззбитковості проти кожного дико різна.
- Ваша утилізація GPU. Фіксована вартість окупається, лише якщо GPU зайнятий. Час простою — це гроші, витрачені даремно.
- Прихована операційна вартість. Ваші години, плинність оновлень моделей і сюрпризи з VRAM, які не з'являються, доки ви не в продакшені.
Оцініть кожен із них, і туман розсіється. Це решта цієї статті.
Висновок розділу: точка беззбитковості — це не одне число. Це три числа, по одному на кожен рівень API, і вибір неправильного рівня для порівняння — саме там більшість оцінок вартості й помиляється.
Тристороння беззбитковість: передовий проти середнього рівня проти бюджетного API
Самостійне розміщення open-weight LLM на GPU VPS перемагає передовий API (класу GPT-5, Claude Sonnet 5 / Opus 4.8, Gemini Pro) приблизно при кількох мільйонах токенів на день, за умови, що ви тримаєте GPU на здоровій утилізації (скажімо, 60% або вище). Проти бюджетного open-weight API приблизно за $0.14–$0.50 за мільйон токенів воно рідко виграє за вартістю взагалі. Ця різниця — це вся суть, і саме тому одне число беззбитковості не може бути правильним.
Ось форма цього по трьох рівнях. Ставтеся до цих порогів як до орієнтовних діапазонів, а не жорстких ліній. Вони походять з оцінок спільноти та ціноутворення 2026 року, і те, й інше швидко змінюється.
| Ви порівнюєте з | Приклад ціноутворення (за 1M токенів, станом на July 2026) | Приблизний місячний обсяг, за якого один високоякісний GPU починає вигравати | Вердикт для соло-білдера |
|---|---|---|---|
| Передовий API | GPT-5.5 $5 in / $30 out; GPT-5.4 $2.50 / $15; Claude Opus 4.8 $5 / $25; Claude Sonnet 5 $2 / $10 до Aug. 31, потім $3 / $15; Gemini 3.1 Pro Preview $2 / $12; Gemini 2.5 Pro $1.25 / $10 | ~160–256M токенів/місяць (~5–8M/день) при 60–70% утилізації | Досяжно, якщо у вас стабільний обсяг |
| Середній рівень / менший передовий | GPT-5.4-mini $0.75 / $4.50; Claude Haiku 4.5 $1 / $5; Gemini 2.5 Flash $0.30 / $2.50 | Приблизно в 3–5× вище за передову беззбитковість, залежно від частки виходу й вибору моделі | Рідко вартий того за вартістю |
| Бюджетний open-weight API | DeepInfra Llama 3.1 70B ~$0.40 фіксовано; Together Llama 3 8B Lite $0.14; DeepSeek V4 Flash $0.14 / $0.28; DeepSeek V4 Pro $0.435 / $0.87 | ~2.5B–7B+ токенів/місяць, залежно від моделі й частки виходу | Фактично недосяжно соло |
Ціни зі сторінок ціноутворення OpenAI, Anthropic, Google, DeepInfra, Together, і DeepSeek станом на July 2026. Кожне з цих чисел має термін придатності, вимірюваний місяцями, тож перевіряйте актуальні сторінки, перш ніж брати.
Тепер контраргумент, бо саме він змінює рішення. Ходить гучний і правильний аргумент, що бюджетні API вбили беззбитковість самостійного розміщення. Open-weight API, як-от DeepInfra та Together тепер обслуговують моделі Llama та Qwen за частку передових цін, а самі передові ціни різко впали з 2025 року. Проти цих бюджетних ставок беззбитковість за токеном упирається в мільярди токенів на місяць. Соло-підприємець не проганяє мільярди токенів на місяць. Тож якщо ваша єдина мета — нижчий рахунок, перший крок зазвичай не «орендувати GPU», а «перейти на бюджетний open-weight API і мати нуль операційки».
Аргумент вартості самостійного розміщення виживає у двох місцях: у порівнянні з дорогим передовим ціноутворенням при справді високому, стабільному обсязі, і в не пов'язаних із вартістю причинах (приватність, затримка, контроль над донавчанням), розглянутих далі нижче. Скрізь інде бюджетний API виграє грошовий аргумент.
Формула беззбитковості
break-even tokens per month ≈ GPU VPS monthly cost ÷ your blended API price per token
Пропрацьований приклад, масштаб соло-підприємця: скажімо, один високоякісний GPU VPS коштує близько $1,000/місяць (діапазон каталогу 2026 для топового рівня з одним GPU), і ви на передовому API зі змішаною ставкою близько $6 за мільйон токенів (приблизно $0.000006 за токен). Це ~$1,000 ÷ $0.000006 ≈ 167 мільйонів токенів/місяць, перш ніж GPU окупиться на папері. Тепер перерахуйте це проти бюджетного open-weight API за $0.40 за мільйон ($0.0000004/токен): ~$1,000 ÷ $0.0000004 = 2.5 мільярда токенів/місяць. Той самий GPU, та сама фіксована вартість, а точка беззбитковості зсувається більш ніж у 10× суто залежно від того, який API ви ставите у знаменник. Це до утилізації, яка робить число ще гіршим.
Висновок розділу: API, з яким ви порівнюєте, може зсунути вашу беззбитковість у 10× чи більше, тож «прорахуйте числа» означає рахувати їх проти конкретного API, який ви насправді замінили б.
Що утилізація робить із вартістю за токен
Візьміть ту ~167-мільйонну передову беззбитковість і додайте змінну, яку формула тихо відкидає: ваш GPU зайнятий увесь час. Це не так. Орендований GPU виставляє рахунок однаково, чи він насичений, чи простоює, тож ваша ефективна вартість GPU VPS LLM за токен масштабується обернено до утилізації. Працюйте на 10% навантаження, і кожен токен, який ви обслуговуєте, несе приблизно 10× вартість, яку він мав би під повним навантаженням, бо ви платите за 90% потужності, яку не використали. Оцінки спільноти й записи практиків ставлять практичну нижню межу приблизно на 50–60% стабільної утилізації, перш ніж числа перестануть вас соромити (орієнтовні цифри, а не лабораторні константи).
Для нерівномірного соло-навантаження (трафік, що стрибає вдень і вирівнюється в нуль уночі) стабільну 60% утилізацію важко досягти. Це і є пастка. Ось що це робить із вартістю за мільйон токенів у кількох конкретних точках, використовуючи ціни GPU з каталогу 2026, поділені на приблизну місячну пропускну здатність на кожному рівні утилізації:
| Рівень GPU | Модель (Q4) | ~Вартість за 1M токенів при 100% утил. | при 60% утил. | при 25% утил. |
|---|---|---|---|---|
| RTX 4090 (24 GB) | Llama 3.1 8B | низькі однозначні центи | ~1.7× від показника 100% | ~4× від показника 100% |
| RTX 5090 (32 GB) | Qwen 3 32B | середні центи | ~1.7× | ~4× |
| A100 (80 GB) | Llama 3.1 70B | вище (більша модель, більше GPU) | ~1.7× | ~4× |
| RTX 6000 Ada (48 GB) | Llama 3.1 70B (Q4) | порівнянно з діапазоном A100 | ~1.7× | ~4× |
Абсолютні центи-за-токен залежать від вашої моделі, квантування й того, скільки одночасних запитів ви можете упакувати на карту, тож ставтеся до стовпців як таких, що показують форму штрафу, а не котирування. Суть у множнику: впадіть із повного навантаження до чверті навантаження, і ваша вартість за токен приблизно вчетверо зросте. Саме це зазвичай убиває соло-сценарій самостійного розміщення, а не цінник GPU.
Є одна структурна лазівка, і це причина, чому оренда може перемогти володіння для стрибкоподібного попиту: ви можете зупинити орендований інстанс, коли він простоює. Володійте залізом, і воно знецінюється й споживає енергію, використовуєте ви його чи ні. На погодинній чи on-demand оренді ви можете зупинити чи знести інстанс, коли завдання виконане, й уникнути оплати за години простою. На фіксованих місячних тарифах рахунок усе одно фіксований на розрахунковий період, тож утилізація залишається головною проблемою вартості. Це не виправляє навантаження, яке справді має низьку утилізацію цілий день, але для попиту, що зайнятий сплесками й мертвий між ними, здатність вимкнути лічильник — це той єдиний важіль, що схиляє оренду-проти-володіння в бік оренди.
Висновок розділу: утилізація, а не місячна ціна GPU, зазвичай визначає, чи має самостійне розміщення сенс, і це та змінна, яку популярні числа беззбитковості повністю опускають.
Яка модель підходить до якого GPU: реальність VRAM
План, що ламається першим, — це «я просто запущу 70B на 4090». Ви не можете. 70B модель на квантуванні Q4_K_M потребує приблизно 40–46 GB VRAM, а 24 GB RTX 4090 чи 32 GB RTX 5090 просто не має місця. Втисніть її на 24 GB карту, і ви опинитеся на квантуванні Q2_K (близько 21 GB) з видимою втратою якості, або модель переливається в системну RAM, і швидкість генерації обвалюється. VRAM — це жорстка стіна, яка вирішує, які моделі взагалі на столі для даного GPU.
Ось що куди підходить. Числа VRAM приблизні: вони виведені зі стандартної арифметики байтів-на-параметр (FP16 ≈ params × 2 з ~15% накладних витрат; Q4_K_M ≈ params × ~0.55 з накладними витратами), тож ставтеся до них як до орієнтиру для розмірів, а не гарантій.
| Модель | FP16 | Q8 | Q4_K_M | Найменший одиночний Cloudzy GPU, що підходить (при Q4) |
|---|---|---|---|---|
| Llama 3.1 8B | ~16 GB | ~8.5 GB | ~5–6 GB | RTX 4090 (підходить навіть при FP16) |
| Mistral Small 3.1 (24B) | ~48 GB | ~24 GB | ~14–16 GB | RTX 4090 |
| Qwen 3 32B | ~64 GB | ~32 GB | ~18–20 GB | RTX 4090 |
| Qwen 2.5 72B | ~144 GB | ~72 GB | ~41–51 GB | A100 (80 GB) або RTX 6000 Ada (48 GB) |
| Llama 3.1 70B | ~140 GB | ~70 GB | ~40–46 GB | A100 (80 GB) або RTX 6000 Ada (48 GB) |
| DeepSeek R1 70B (distill) | ~140 GB | ~70 GB | ~40 GB | A100 (80 GB) або RTX 6000 Ada (48 GB) |
Числа VRAM перехресно звірені з офіційними сторінками специфікацій GPU від NVIDIA для кожної карти. A100 дає квантованій 70B комфортніший запас; RTX 6000 Ada може працювати для тісніших Q4-налаштувань, тоді як споживчі карти на 24 GB і 32 GB не мають достатньо VRAM для звичайного розгортання 70B Q4. Якщо ви хочете повний розбір того, як формати GGUF, GPTQ, AWQ та EXL2 споживають пам'ять, це кроляча нора, варта окремого прочитання: GGUF, GPTQ, AWQ, EXL2: як формати квантування LLM насправді використовують пам'ять.
Ідеальна точка спільноти для одиночної 24 GB карти — це модель від 24B до 32B (Mistral Small 3.1 або Qwen 3 32B на Q4). Це той розмір, що дає соло-білдеру корисну модель на найдешевшому рівні GPU без боротьби з VRAM на кожному кроці. Якщо ви зважуєте, яку карту орендувати в першу чергу, наш бенчмарк H100 vs RTX 4090 для AI-навантажень порівнює рівні за пропускною здатністю.
Порада: закладайте бюджет на KV cache, а не лише на ваги. Найпоширеніший сюрприз першого розгортання: ви підбираєте розмір GPU під ваги моделі, завантажуєте, і вона вміщається. Потім надходять запити, KV cache росте з довжиною контексту й конкурентністю, і у вас закінчується VRAM під час обслуговування перших кількох користувачів. Коли VRAM переповнюється й модель переливається на CPU, швидкість генерації падає в 10–100×. Залиште запас над показниками ваг у таблиці для кешу, особливо якщо ви обслуговуєте довгі контексти чи кількох користувачів одночасно.
Приховані витрати, що стирають наївну економію
Таблиця, яка каже, що самостійне розміщення дешевше, майже завжди має один рядок: місячну ціну GPU. Рахунок, який ви платите, має більше рядків. Є ваш час (кожна година, яку ви витрачаєте на латання, перезапуск завислого сервера інференсу чи ганяння за крашем через нестачу пам'яті, — це година, яку ви не витратили на продукт). Є плинність оновлень моделей: open-weight модель, яку ви розгорнули, застаріває, а повторний бенчмаркінг і повторне розгортання — це повторювана робота, а не разове налаштування. Є сюрприз із VRAM та KV cache з попереднього розділу. І є марнотратство простою — години, коли GPU виставляє рахунок, поки нічого не працює.
Практики, які це порахували, ставлять справжню вартість приблизно в 1.3–2× від сирої ціни GPU, щойно операційний час враховано, а деякі йдуть вище, до 3–5×, на неохайніших налаштуваннях. Це орієнтовні множники з записів спільноти, а не аудійовані цифри, але напрямок — це суть. Як каже одне широко цитоване формулювання, GPU, що простоює, — це не актив, це зобов'язання, за яке виставляють погодинний рахунок. Для соло-білдера правильний спосіб оцінити це — не рядок зарплати MLOps, а ваші власні години, які є найдефіцитнішим, що у вас є. Якщо самостійне розміщення заощаджує вам $200 на місяць на папері, але коштує вам шести годин операційки, які ви інакше витратили б на випуск продукту, це не очевидний виграш.
Коли самостійне розміщення все одно перемагає: приватність, затримка й донавчання
Вартість — не єдина причина запускати власну модель, і для деяких білдерів вона навіть не головна. Нижче точки беззбитковості за вартістю, де гроші кажуть «залишайся на API», є три причини все одно розміщувати самостійно. Суверенітет даних: тримати запити й дані ваших користувачів поза конвеєром зовнішнього AI-провайдера, що важить для деяких продуктів незалежно від того, що кажуть числа. Передбачувана затримка: жодної спільно-орендарської черги, жодних лімітів швидкості, яких ви не встановлювали, жодних несподіваних уповільнень під час чийогось чужого сплеску трафіку. І повний контроль: свобода донавчати, квантувати, міняти моделі й фіксувати версії, не чекаючи на постачальника.
Є застереження щодо пункту про приватність, і пропустити його було б нечесно. Орендований GPU VPS усе одно працює на чиємусь чужому залізі в чиємусь чужому датацентрі. Це вагомий суверенітет від конвеєра навчання й логування AI-провайдера (ваші запити не течуть крізь системи постачальника моделей), але це не те саме, що обладнання on-premises, яке ви фізично контролюєте. Якщо ваша вимога — справжня on-prem ізоляція, орендований VPS вас туди не доставляє. Якщо ваша вимога — «тримати наші дані подалі від рук стороннього постачальника моделей», то доставляє. Знайте, яка з них вам потрібна.
Для навантажень, що працюють у обмежених мережевих середовищах, самостійно розміщена модель на інфраструктурі, яку ви контролюєте, також може обійти залежності від зовнішніх endpoint'ів, які можуть бути недосяжними, — можливість, що важить незалежно від того, де ви розгортаєте.
То чи слід вам розміщувати самостійно? Пряма відповідь за ситуацією
Усе вищесказане сортується в коротке рішення. У вас є рахунок, приблизне уявлення про ваш місячний обсяг токенів, а тепер і три рівні беззбитковості, штраф за утилізацію та множник прихованих витрат. Зіставте свою ситуацію з однією з цих:
- Ви нижче передової беззбитковості, і вартість — ваша єдина турбота. Залишайтеся на API й серйозно оцініть бюджетний open-weight API (DeepSeek, DeepInfra, Together), перш ніж робити будь-що інше. Це зазвичай і є виграш за вартістю, а не самостійне розміщення. Перемикання API — це зміна конфігурації; самостійне розміщення — це друга робота.
- У вас стабільний, високий обсяг проти передового ціноутворення, і ви можете тримати GPU на утилізації 60%+. Ось де самостійне розміщення окупається. Запустіть формулу проти вашої передової ставки, підтвердіть, що ви переступаєте поріг за стабільної утилізації (а не пікової), і орендований GPU VPS починає вигравати.
- У вас є не пов'язаний із вартістю драйвер: приватність, затримка чи контроль над донавчанням. Розміщуйте самостійно нижче беззбитковості свідомо, з відкритими очима на те, що ви платите за контроль. Просто не кажіть собі, що це дешевше, якщо це не так.
- Ви десь посередині. Погляньте на гібридний шаблон, до якого приходить більшість практиків у 2026: невелика самостійно розміщена модель для високооб'ємних, простих завдань плюс передовий API для складних міркувань, до яких ваша локальна модель доходить на 85–90% шляху (бенчмарки спільноти, не лабораторно перевірені, а остання ділянка часто там, де якість потрібна вам найбільше).
Щодо питання «як мені дістати GPU», відповідь для соло-білдера майже завжди — орендувати, а не купувати. Володіння залізом датацентрового класу — це капітальна ставка, яка має сенс лише на масштабі, якого у вас поки що немає. Серверлес-інференс може зменшити марнотратство простою завдяки масштабуванню до нуля й виставленню рахунку лише за активні обчислення, але часто виміняє це на вищу ставку за GPU-годину й затримку холодного старту. Орендований GPU VPS сидить посередині: жодного капіталу, передбачуваний місячний рахунок, root-доступ і здатність зупинити інстанс, коли він простоює.
Якщо ви запустили формулу, переступили беззбитковість і хочете виділений, приватний сервер інференсу з root-доступом без купівлі карти, це саме те, для чого призначена орендована GPU-машина. Тарифи Cloudzy GPU VPS охоплюють діапазон від 8B моделі на одній карті до квантованої 70B, а застосунок Ollama в один клік у маркетплейсі розгортається приблизно за хвилину з REST API, сумісним із клієнтами OpenAI, тож перехід із платного API на власний сервер може бути близьким до drop-in зміни у вашому коді, без вартості за токен після фіксованої місячної плати. Перевірте сторінку щодо актуального ціноутворення; ставки GPU рухаються.
Одна дія, варта того, щоб зробити її, перш ніж щось орендувати: запустіть формулу беззбитковості на власному рахунку. Це займає дві хвилини й скаже вам, у якій із чотирьох ситуацій вище ви перебуваєте.
Часті запитання
Що дешевше: розміщувати LLM самостійно чи використовувати API?
Залежить від того, який API. Самостійне розміщення open-weight моделі на GPU VPS може перемогти передовий API (класу GPT-5, Claude Sonnet 5 / Opus 4.8) при високому, стабільному обсязі з доброю утилізацією GPU. Воно рідко перемагає бюджетний open-weight API (DeepSeek, DeepInfra, Together приблизно за $0.14–$0.50 за мільйон токенів станом на July 2026) за самою лише вартістю: ця беззбитковість упирається в мільярди токенів на місяць, яких більшість соло-білдерів ніколи не досягає.
Який GPU мені потрібен, щоб запустити 70B модель?
70B модель на квантуванні Q4_K_M потребує приблизно 40–46 GB VRAM лише для квантованих ваг. 80 GB A100 — це безпечніший варіант з одним GPU, бо залишає місце для KV cache, накладних витрат виконання й довших запитів. 48 GB RTX 6000 Ada може працювати для тісніших Q4-налаштувань, але довжину контексту й конкурентність потрібно ретельно контролювати.
Як утилізація GPU впливає на вартість за токен?
Орендований GPU коштує стільки ж, чи він простоює, чи повністю завантажений, тож ваша ефективна вартість за токен масштабується обернено до утилізації. При 10% навантаження кожен токен, який ви обслуговуєте, коштує приблизно 10× того, скільки він коштував би під повним навантаженням, бо ви платите за невикористану потужність. Практична нижня межа, за якої самостійне розміщення має сенс, — це близько 50–60% стабільної утилізації.
Скільки токенів на місяць, перш ніж самостійне розміщення стає того вартим?
Проти передового API приблизно 160–256 мільйонів токенів на місяць за здорової утилізації — це орієнтовний поріг (станом на July 2026). Проти бюджетного open-weight API це мільярди на місяць, фактично недосяжно соло. Точне число залежить від вашої вартості GPU та змішаної ставки API, тож запустіть формулу: токени беззбитковості ≈ місячна вартість GPU VPS ÷ ваша ціна API за токен, потім знижте його на стабільну утилізацію.
Чи можу я запустити open-weight LLM на VPS?
Так, на GPU VPS, підібраному під VRAM моделі. Такий інструмент, як Ollama, запускає open-weight моделі (Llama, Qwen, Mistral та інші) з розгортанням в один клік і OpenAI-compatible REST API, тож ваш наявний код, що викликає API, може вказувати на власний сервер з мінімальними змінами. Підберіть рівень GPU під вашу модель: 8B комфортно вміщається на 24 GB карту, квантована 70B потребує 48–80 GB.
