Инференс LLM через API
Запускайте квантизованные модели класса 7B–70B за вашим собственным OpenAI-совместимым эндпоинтом. vLLM или TGI на GPU, llama.cpp / Ollama на CPU. Выставляйте клиентам счёт по токенам.
Хостинг AI VPS
Задачи AI,
выбери свой формат.
Мощные RAM CPU для инференса и RAG или NVIDIA-класса GPU для обучения — всё в одной панели VPS.
NVMe + сеть 40 Gbps. Независимое облако с 2008 года.
Начиная от $506.35/mo · скидка 35% при годовой оплате · Без банковской карты
~ ssh root@ai-nyc-001 подключено
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
AI VPS: обзор
Cloudzy offers AI VPS hosting on dedicated NVIDIA-класс планы GPU для обучения моделей и обслуживания крупных моделей. Планы работают на AMD EPYC, Хранилище NVMe, и 40 Gbps аплинки в 13 регионов. Тарифы GPU начинаются от $506.35 в месяц; развёртывание занимает 60 секунд; CUDA-образы предустановлены на планах GPU. Cloudzy работает независимо с 2008 года, обслуживает 122 000+ разработчиков и имеет рейтинг 4.5 / 5 на основе 719+ отзывов на Trustpilot.
- Начальная цена
- $506.35 / месяц
- типы GPU
- PRO 6000 · A100 · 5090 · 4090
- Развёртывание
- 60 секунд
- Регионы
- 13 по всему миру
- SLA по аптайму
- 99.95%
- Возврат средств
- 14 дней
Почему AI-разработчики выбирают Cloudzy
Облако, которое запускает AI.
Четыре причины доверить ваши AI-задачи нам.
AMD EPYC + NVMe
Новейшие EPYC для инференса CPU, NVMe для быстрой загрузки моделей. Выделенные GPU через PCI passthrough на планах GPU.
Возврат в течение 14 дней
Запустите реальный тест задержки инференса на Cloudzy. Если результат не вписывается в ваш SLO — возврат в течение 14 дней.
Аптайм 99,95%
AI-нагрузки в продакшене требуют хоста, который не уходит на перезагрузку в пиковое время. SLA за последние 30 дней публично отслеживается на status.cloudzy.com.
Инженеры в чате
Проблемы с версиями CUDA, ошибками NCCL или настройкой vLLM? Инженеры с опытом в AI-задачах ответят за минуты, а не часы.
AI-стек
Используйте любой фреймворк.
Просто работает.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit готовы к работе на планах GPU
PyTorch
ЦПУ и ГПУ
TensorFlow
ЦПУ и ГПУ
vLLM
Сервинг моделей GPU LLM
Ollama
CPU + GPU LLM
Hugging Face
Transformers · Diffusers
pgvector
Хранилище векторов RAG
Qdrant
Векторная БД
LangChain
Фреймворк агента
Сценарии использования
На чём работают AI-команды
Cloudzy.
RAG-бэкенды
Postgres + pgvector или Qdrant на CPU VPS, отдельный GPU-сервер для эмбеддингов и генерации — по желанию. NVMe обеспечивает быстрый поиск по векторам.
Среды выполнения агента
Долгоживущие агенты LangChain или LlamaIndex, которые обращаются к API OpenAI/Anthropic и вашим собственным данным. Статический IP стабилизирует вызовы инструментов.
Генерация изображений и видео
Stable Diffusion, SDXL, ComfyUI, видеомодели на GPU с GPU класса RTX. NVMe позволяет менять модели за секунды, а не минуты.
Дообучение и тренировка моделей
LoRA / QLoRA fine-tuning на GPU класса RTX, полнопараметрное обучение на GPU класса datacenter. CUDA, NCCL и PyTorch предустановлены.
Embedding-воркеры
Запустите воркер sentence-transformers на CPU VPS с 16–32 GB и создавайте эмбеддинги для миллионов документов без поштучной тарификации SaaS.
60s
Развёртывание
40 Gbps
Канал связи
Только NVMe
Хранилище
13
Регионы
99.95%
SLA по аптайму
14 дней
Возврат средств
Глобальная сеть
13 регионов. Четыре континента.
Задержка инференса — решена.
Разместите ваш AI API ближе к клиентам. Объедините CPU-шлюз в одном регионе с GPU-сервером в другом.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Тарифы
Популярные планы GPU. Почасовая или годовая оплата.
Годовая оплата сейчас Скидка 35% на каждом плане GPU.
Самый популярный
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Развернуть сейчас Возврат в течение 14 дней
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA предустановлена
Часто задаваемые вопросы. AI VPS
Частые вопросы, прямые ответы.
Что такое AI VPS?
AI VPS — это Linux облачный сервер, настроенный под задачи AI: мощные RAM и EPYC-ядра для инференса CPU и RAG, или GPU класса NVIDIA для обучения и деплоя крупных моделей. Подключаетесь, устанавливаете свой стек — и работаете. Один и тот же VPS, разные конфигурации под разные задачи.
Мне нужен GPU, или хватит CPU?
CPU подходит для небольших квантованных моделей, векторного поиска и лёгких задач ИИ. Выбирайте GPU для более быстрого инференса, крупных моделей или обучения. Выбор зависит от модели, нагрузки и требований ко времени ответа.
Можно ли запустить inference API за балансировщиком нагрузки?
Да. Запустите vLLM, TGI или собственный FastAPI-сервис на GPU-машине, а перед ней поставьте небольшой CPU VPS в роли API-шлюза и rate limiter. Оба узла находятся в одной частной сети в одном регионе. При 40 Gbps шлюз никогда не станет узким местом.
Можно ли хостить RAG backend?
Да. VPS с CPU может запускать ваше RAG-приложение и векторную базу данных, например PostgreSQL с pgvector или Qdrant. Для генерации подключите его к размещённой у провайдера LLM или VPS с GPU. Требования к RAM и дисковому пространству зависят от набора данных, моделей и нагрузки.
Какие AI-фреймворки поддерживаются?
Все. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (на совместимом железе), Hugging Face Transformers — устанавливайте через conda, pip или Docker. На планах с GPU доступны готовые CUDA-образы, на каждом плане полный root-доступ.
GPU общие?
Нет. В планах с GPU используется PCI passthrough: GPU, который вы заказываете, полностью выделен вашей VM — со всей памятью и на полных частотах. CUDA, NVENC, NCCL работают точно так же, как на bare-metal. RTX-класс — для экономичного инференса, datacenter-класс — для серьёзного обучения.
Сколько VRAM мне нужно?
Объём VRAM зависит от размера модели, точности, длины контекста и числа одновременных запросов. Модель 7B в 4-битном формате может поместиться в 8 GB для инференса; модели 70B нужно около 35 GB только для весов плюс память для выполнения. Обучение требует больше памяти, поэтому перед выбором тарифа проверьте требования модели.
Есть ли гарантия возврата денег?
14 дней с момента покупки, полный возврат средств, без вопросов. Прогоните реальный тест latency для инференса и реальный RAG-бенчмарк — и убедитесь, что Cloudzy вам подходит, прежде чем оплачивать год.
Насколько быстро происходит развёртывание?
После подтверждения оплаты ваш AI VPS будет готов через 60 секунд. CPU или GPU. Готовые CUDA-образы на планах с GPU — `nvidia-smi` отвечает в течение нескольких секунд. Планы CPU поставляются с Ubuntu LTS или Debian — установите свой AI-стек через conda или pip за несколько минут.
Можно ли запускать рабочие нагрузки ИИ в продакшене на Cloudzy GPU VPS?
Да. Выберите тариф с достаточными VRAM, CPU и RAM для своей нагрузки и проверьте производительность при ожидаемом трафике. Настройте безопасность, мониторинг и резервное копирование; для высокой доступности используйте несколько экземпляров.
Готовы, когда вы готовы.
AI VPS за 60 секунд.
Выберите конфигурацию под вашу задачу. CPU для инференса и RAG; GPU для обучения моделей. Единая панель управления.
Без кредитной карты · возврат денег в течение 14 дней · отмена в любой момент