Inference LLM přes API
Provozujte kvantizované modely třídy 7B–70B za vlastním OpenAI-kompatibilním endpointem. vLLM nebo TGI na GPU, llama.cpp / Ollama na velkém CPU. Zákazníkům fakturujte po tokenech.
Hostování AI VPS
Úlohy AI,
vyberte si svůj plán.
Vysoký RAM CPU pro inferenci / RAG, nebo GPU třídy NVIDIA pro trénování – vše ve stejném panelu VPS.
NVMe + 40 Gbps síť. Nezávislý cloud od roku 2008.
Od $506.35/mo · 35% sleva při roční platbě · Bez kreditní karty
~ ssh root@ai-nyc-001 připojen
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
Přehled AI VPS
Cloudzy offers AI VPS hosting on dedicated NVIDIA-class Plány GPU pro trénování modelů a nasazení velkých modelů. Plány běží na AMD EPYC, NVMe úložiště, a 40 Gbps uplinky napříč 13 regionů. Plány GPU začínají od $506.35 za měsíc; zřizování trvá 60 sekund; CUDA obrazy jsou předinstalovány na plánech GPU. Cloudzy funguje nezávisle od roku 2008, slouží 122 000+ vývojářů, a má hodnocení 4.6 / 5 by 770+ reviewers na Trustpilotu.
- Cena od
- $506.35 / měsíc
- Typy GPU
- PRO 6000 · A100 · 5090 · 4090
- Zřizování
- 60 sekund
- Oblasti
- 13 po celém světě
- SLA dostupnosti
- 99.95%
- Vrácení peněz
- 14 dní
Proč vývojáři AI sází na Cloudzy
Cloud, který lodě AI.
Čtyři důvody, proč vaše AI úlohy patří právě sem.
AMD EPYC + NVMe
Nejnovější EPYC pro inferenci CPU, NVMe pro rychlé načítání modelů. Dedikované GPUs přes PCI passthrough v plánech GPU.
Vrácení peněz do 14 dnů
Spusťte skutečný test inference latence na Cloudzy. Pokud nevyhovuje vašemu SLO, do 14 dnů vám vrátíme peníze.
99,95% dostupnost
Produkční AI APIs potřebují hostitele, který se v době špičky nepřestartuje. Dostupnost za posledních 30 dní je veřejně sledována na status.cloudzy.com.
Inženýři na chatu
Zaseknuli jste se na verzích CUDA, chybách NCCL nebo ladění vLLM? Inženýři se zkušenostmi s AI zátěží jsou k dispozici během minut, ne hodin.
Sada nástrojů AI
Přineste jakýkoliv framework.
Běží.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit připraveny v plánech GPU
PyTorch
CPU a GPU
TensorFlow
CPU a GPU
vLLM
Provoz GPU LLM
Ollama
CPU + LLM na GPU
Hugging Face
Transformers · Diffusers
pgvector
RAG vektorové úložiště
Qdrant
Vektorová databáze
LangChain
Framework agenta
Případy použití
Na čem pracují AI týmy
Cloudzy.
RAG backendy
Postgres + pgvector nebo Qdrant na CPU serveru VPS, volitelně GPU box pro embedding a generování. NVMe zajišťuje rychlé vektorové vyhledávání.
Běh agentů
Dlouhodobě běžící agenti LangChain nebo LlamaIndex, kteří volají OpenAI/Anthropic API a pracují s vlastními daty. Statická IP udržuje tool-calling stabilní.
Generování obrázků a videa
Stable Diffusion, SDXL, ComfyUI a video modely na GPU s RTX kartami. NVMe umožňuje výměnu modelů během sekund, ne minut.
Doladění a trénink
LoRA / QLoRA fine-tuning na RTX kartách, trénink celých parametrů na datacenterových GPU. CUDA, NCCL a PyTorch jsou předinstalované.
Vkládání pracovníků
Spusťte sentence-transformers worker na CPU serveru VPS s 16–32 GB a embedujte miliony dokumentů bez platby za každé volání SaaS API.
60s
Zřizování
40 Gbps
Spojení nahoru
Pouze NVMe
Úložiště
13
Oblasti
99.95%
SLA dostupnosti
14 days
Vrácení peněz
Globální síť
13 regionů. Čtyři kontinenty.
Inference latence vyřešena.
Umístěte svůj AI API blízko zákazníků. Kombinujte CPU gateway v jednom regionu s GPU boxem v jiném.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Ceny
Doporučené plány GPU. Hodinově nebo ročně.
Roční fakturace je momentálně 35% sleva u každého plánu GPU.
Nejoblíbenější
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Nasadit hned Vrácení peněz do 14 dnů
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA předinstalován
Často kladené otázky. AI VPS
Běžné otázky, přímé odpovědi.
Co je AI VPS?
AI server VPS je Linux cloudový server dimenzovaný a nakonfigurovaný pro AI úlohy: vysoký počet RAM a EPYC jader pro CPU inference a RAG, nebo NVIDIA GPU pro trénink a provoz velkých modelů. Připojíte se, nainstalujete svůj stack a spustíte. Jeden typ serveru, různé konfigurace pro různé úlohy.
Potřebuji GPU, nebo mi postačí CPU?
Záleží na modelu. Kvantizované 7B třídy LLM (int4 / int8 přes llama.cpp nebo Ollama) fungují užitečně na CPU plánu s 16–32 GB. Embedding modely, vektorové databáze (Qdrant, Weaviate, pgvector) a RAG pipelines jsou převážně závislé na CPU. Pro trénování, větší servování modelů nebo cokoliv náročného na propustnost chcete GPU plán.
Mohu spustit inferenci API za load balancerem?
Ano. Spusťte vLLM, TGI nebo vlastní FastAPI službu na GPU stroji, před ni postavte malý CPU VPS jako API gateway a rate limiter. Oba sdílejí privátní síť ve stejném regionu. 40 Gbps znamená, že gateway nikdy nebude úzké hrdlo.
Mohu hostovat RAG backend?
Ano, a je to jeden z nejběžnějších scénářů. VPS s 16–32 GB RAM zvládne PostgreSQL + pgvector nebo Qdrant za rozumné peníze, generování pak řešíte přes vzdálený GPU server nebo hostovaný LLM. NVMe urychlí vektorové dotazy, CPU obstará výpočet embeddingů při dávkovém zpracování.
Které AI frameworky jsou podporovány?
Všechny. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (na příslušném hardwaru), Hugging Face Transformers, instalace přes conda, pip nebo Docker. Předpřipravené CUDA image u GPU plánů, plný root přístup u každého plánu.
Jsou GPUs sdílené?
Ne. Plány GPU využívají PCI passthrough – GPU, který si zarezervujete, je vyhrazen výhradně pro váš VM s plnou pamětí a plnými takty. CUDA, NVENC i NCCL se chovají stejně jako na fyzickém serveru. RTX řada pro cenově dostupný inference, datacentrová řada pro náročný trénink.
Kolik VRAM potřebuji?
8 GB for SDXL or 7B-class LLMs at int4. 24 GB for 13B at fp16 or 70B at int4. 40+ GB for fp16 70B and full-precision training. Match the GPU plan to your model size, quantization changes the math, so test before committing to a tier.
Je k dispozici záruka vrácení peněz?
Ano, do 14 dní od nákupu dostanete plnou náhradu bez jakýchkoli otázek. Otestujte si skutečnou latenci inference, spusťte vlastní RAG benchmark a rozhodněte se, jestli vám Cloudzy vyhovuje, než se zavážete na rok.
Jak rychle probíhá zřízení?
Po potvrzení platby je váš AI VPS spuštěný během 60 sekund. CPU nebo GPU. Plány GPU mají předinstalované CUDA image – `nvidia-smi` odpoví během pár sekund. Plány CPU jsou dodávány s Ubuntu LTS nebo Debian, váš AI stack nainstalujete přes conda nebo pip za pár minut.
Mohu to použít v produkčním prostředí?
Ano. Dostupnost 99,95 % SLA, fakturace po hodinách, žádné závazky, dedikované IP adresy a možnost škálovat RAM/vCPU/úložiště za provozu bez nutnosti přestavby. Mnoho našich zákazníků provozuje AI inference a RAG APIs v produkci od Cloudzy.
Připraveni, kdykoli jste vy.
AI VPS za 60 sekund.
Vyberte konfiguraci podle své zátěže. CPU pro inferenci a RAG, GPU pro trénování. Vše ve stejném panelu.
Bez platební karty · Vrácení peněz do 14 dnů · Zruš kdykoli