Інференс LLM APIs
Розгортайте квантизовані LLMs класу 7B–70B за власним OpenAI-сумісним ендпоінтом. vLLM або TGI на GPU, llama.cpp / Ollama на великих CPU. Виставляйте рахунки клієнтам за токенами.
Хостинг VPS для штучного інтелекту
Навантаження штучного інтелекту,
обери свою конфігурацію.
Потужні RAM CPU для інференсу / RAG або GPU класу NVIDIA для навчання моделей — одна панель керування VPS.
Незалежна хмара з 2008 року. Від $2.48/міс · root SSH за 60 секунд.
CPU від $2.48/mo · плани GPU на ціноутворення · Повернення коштів протягом 14 днів
~ ssh root@ai-nyc-001
підключено
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Встановлення середовища виконання Ollama... готово
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
завантаження маніфесту · скачування 4.7 GB на NVMe
модель готова · CPU починає інференс
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Привіт! Чим можу допомогти?"}
root@ai-nyc-001:~# _
AI VPS з першого погляду
Cloudzy пропонує хостинг AI VPS у двох варіантах: потужні плани RAM CPU для квантизованого inference LLM, RAG і пайплайнів, а також NVIDIA-класу Плани GPU для навчання моделей та обслуговування великих моделей. Плани працюють на AMD EPYC, Сховище NVMe, та 40 Gbps мережеві з'єднання через 12 регіонів. CPU починається з $2.48 per month; надання займає 60 секунд; CUDA-образи попередньо встановлені на тарифах GPU. Cloudzy працює незалежно з 2008, служить 122,000+ розробників, та оцінюється 4.6 / 5 by 728+ reviewers на Trustpilot.
- CPU починається з
- $2.48 / month
- Типи GPU
- RTX · Pro
- Підготовка
- 60 секунд
- Регіони
- 12 по всему миру Wait, let me correct that to Ukrainian (not Russian): 12 по всьому світу
- Час роботи SLA
- 99.95%
- Повернення грошей
- 14 днів
Чому розробники AI обирають Cloudzy
Хмара, яка доставляє AI.
Чотири причини запускати ваші AI-навантаження саме тут.
AMD EPYC + NVMe
Найновіші EPYC для інференсу CPU, NVMe для швидкого завантаження моделей. Виділені GPUs через PCI passthrough на планах GPU.
Повернення коштів протягом 14 днів
Запустіть реальний тест затримки inference на Cloudzy. Якщо результат не вписується у ваш SLO — повернення коштів протягом 14 днів.
99.95% часу безперебійної роботи
Продакшн AI APIs потребують хоста, який не перезавантажується у пікові моменти. Аптайм за останні 30 днів SLA — публічно на status.cloudzy.com.
Інженери в чаті
Застрягли на версіях CUDA, помилках NCCL або налаштуванні vLLM? Інженери з досвідом роботи з AI-навантаженнями — відповідь за хвилини, не години.
Стек штучного інтелекту
Використовуй будь-який фреймворк.
Це працює.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang — все працює без зайвих налаштувань. Готові образи CUDA на тарифах GPU позбавляють від метушні з драйверами. Тарифи CPU підходять для квантизованого інференсу та embedding-воркерів за розумну ціну.
Docker + nvidia-container-toolkit готові на планах GPU
PyTorch
CPU і GPU
TensorFlow
CPU і GPU
vLLM
Обслуговування LLM на GPU
Ollama
LLMs на CPU + GPU
Hugging Face
Transformers · Diffusers
pgvector
сховище векторів RAG
Qdrant
Векторна база даних
LangChain
Фреймворк агента
Випадки використання
На чому працюють AI-команди
Cloudzy.
RAG бекенди
Postgres + pgvector або Qdrant на VPS з CPU, опційний GPU для ембедингу й генерації. NVMe — vector lookups залишаються швидкими.
Середовищеві системи агентів
Довготривалі агенти LangChain або LlamaIndex, які звертаються до OpenAI/Anthropic APIs і ваших власних даних. Статичний IP забезпечує стабільний виклик інструментів.
Генерація зображень і відео
Stable Diffusion, SDXL, ComfyUI, відеомоделі на GPUs класу RTX. NVMe — заміна моделей за секунди, а не хвилини.
Файнтюнінг і навчання
LoRA / QLoRA файнтюнінг на RTX-класі, повнопараметрне навчання на GPUs датацентрового класу. Передвстановлені CUDA, NCCL, PyTorch.
Вбудовані робітники
Запустіть воркер sentence-transformers на VPS з CPU 16–32 GB — ембедуйте мільйони документів без поштучної оплати за SaaS.
60s
Підготовка
40 Gbps
Висхідна лінія зв'язку
Лише NVMe
Сховище
12
Регіони
99.95%
Час роботи SLA
14 днів
Повернення грошей
Глобальна мережа
12 регіонів. Чотири континенти.
Затримка інференсу — вирішено.
Розмістіть ваш AI API поряд із клієнтами. Поєднайте CPU-шлюз в одному регіоні з GPU в іншому.
us-utah-1us-dal-1us-lax-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-zrh-1me-dxb-1ap-sgp-1ap-tyo-1
Плани CPU для штучного інтелекту
Квантизовані LLMs · RAG · Embeddings. CPU достатньо.
Більшість AI-навантажень обмежені CPU. Погодинна оплата · знижка 50% на всі плани · плани GPU вказані окремо на /pricing.
Найпопулярніші
4 GB DDR5
Інференс квантизованих 7B · CPU
$14.47 /міс
$28.95/mo −50%
Розгорнути зараз
Повернення коштів протягом 14 днів
- 2 vCPU @ EPYC
- 120 GB NVMe
- 5 TB · 40 Gbps
- Ollama / vLLM CPU
- Root SSH · KVM
12 GB DDR5
RAG-бекенд · vector DB · embeddings
$34.98 /міс
$69.95/mo −50%
Розгорнути зараз
Повернення коштів протягом 14 днів
- 4 vCPU @ EPYC
- 300 GB NVMe
- 8 TB · 40 Gbps
- Ollama / vLLM CPU
- Root SSH · KVM
16 GB DDR5
Середній CPU-інференс · API-шлюз
$49.98 /міс
$99.95/mo −50%
Розгорнути зараз
Повернення коштів протягом 14 днів
- 8 vCPU @ EPYC
- 350 GB NVMe
- 10 TB · 40 Gbps
- Ollama / vLLM CPU
- Root SSH · KVM
Найпопулярніші
24 GB DDR5
Великий RAM CPU · агенти · пайплайни
$69.97 /міс
$139.95/mo −50%
Розгорнути зараз
Повернення коштів протягом 14 днів
- 8 vCPU @ EPYC
- 450 GB NVMe
- 12 TB · 40 Gbps
- Ollama / vLLM CPU
- Root SSH · KVM
Часті запитання. AI VPS
Поширені запитання, прямі відповіді.
Що таке AI VPS?
AI VPS — це Linux хмарний сервер, налаштований для AI-навантажень: великі обсяги RAM і ядра EPYC для CPU-інференсу та RAG, або NVIDIA-класу GPUs для навчання й обслуговування великих моделей. Підключіться, встановіть свій стек і запускайте. Той самий VPS, різні конфігурації для різних завдань.
Чи потрібен мені GPU, чи підійде CPU?
Залежить від моделі. Квантизовані LLM класу 7B (int4 / int8 через llama.cpp або Ollama) корисно працюють на плані CPU з 16–32 ГБ. Моделі Embedding, векторні бази даних (Qdrant, Weaviate, pgvector) та RAG pipelines здебільшого прив'язані до CPU. Для навчання, обслуговування більших моделей або чого-небудь потребуючого високої пропускної здатності, вам потрібен план GPU.
Чи можна запустити inference API за балансувальником навантаження?
Так. Запустіть vLLM, TGI або власний FastAPI-сервіс на боксі GPU, а перед ним поставте невеликий CPU VPS як шлюз API і rate limiter. Обидва знаходяться в одній приватній мережі в межах одного регіону. 40 Gbps — шлюз ніколи не стане вузьким місцем.
Чи можна розмістити RAG-бекенд?
Так, це одна з найпоширеніших схем. VPS на 16–32 GB RAM чудово справляється з PostgreSQL + pgvector або Qdrant за невелику ціну, а для генерації ви звертаєтесь до окремого GPU-сервера або хмарного LLM. NVMe прискорює векторні запити, GPU бере на себе обчислення ембедингів під час пакетної обробки.
Які AI-фреймворки підтримуються?
Усі. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (на відповідному залізі), Hugging Face Transformers, встановлення через conda, pip або Docker. Готові образи CUDA на планах GPU, повний root на кожному плані.
Чи є GPU спільними?
Ні. Плани GPU використовують PCI passthrough — GPU, який ви бронюєте, повністю виділений вашій VM: повна пам'ять, повна тактова частота. CUDA, NVENC, NCCL працюють так само, як на фізичному сервері. RTX-клас — для економічного інференсу, датацентровий клас — для навчання моделей на повній потужності.
Скільки VRAM мені потрібно?
8 GB for SDXL or 7B-class LLMs at int4. 24 GB for 13B at fp16 or 70B at int4. 40+ GB for fp16 70B and full-precision training. Match the GPU plan to your model size, quantization changes the math, so test before committing to a tier.
Чи є гарантія повернення коштів?
Так, протягом 14 днів з моменту покупки — повне повернення коштів без жодних запитань. Запустіть реальний тест затримки inference, свій RAG benchmark, і переконайтесь, чи підходить вам Cloudzy, перш ніж оформляти річну підписку.
Як швидко відбувається розгортання?
Після підтвердження оплати ваш AI VPS запускається за 60 секунд. CPU або GPU. Готові образи CUDA на планах GPU: `nvidia-smi` відповідає за секунди. Плани CPU поставляються з Ubuntu LTS або Debian — встановіть свій AI-стек через conda або pip за кілька хвилин.
Чи можна використовувати це в продакшені?
Так. Гарантія аптайму 99.95% SLA, погодинна тарифікація, без зобов'язань, виділені IP-адреси, а також можливість масштабувати CPU RAM/vCPU CPU/сховище в реальному часі без перебудови. Чимало наших клієнтів запускають AI-інференс та RAG API-и у продакшені прямо з Cloudzy.
Готово, коли ви готові.
AI VPS за 60 секунд.
Оберіть конфігурацію під своє завдання. CPU — для інференсу та RAG; GPU — для навчання моделей. Одна панель керування.
Без кредитної картки · Повернення коштів протягом 14 днів · Скасування будь-коли