Inference LLM přes API
Provozujte kvantizované modely třídy 7B–70B za vlastním OpenAI-kompatibilním endpointem. vLLM nebo TGI na GPU, llama.cpp / Ollama na velkém CPU. Zákazníkům fakturujte po tokenech.
Hostování AI VPS
Úlohy AI,
vyberte si svůj plán.
Vysoký RAM CPU pro inferenci / RAG, nebo GPU třídy NVIDIA pro trénování – vše ve stejném panelu VPS.
NVMe + 40 Gbps síť. Nezávislý cloud od roku 2008.
Od $506.35/mo · 35% sleva při roční platbě · Bez kreditní karty
~ ssh root@ai-nyc-001 připojen
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
Přehled AI VPS
Cloudzy offers AI VPS hosting on dedicated NVIDIA-class Plány GPU pro trénování modelů a nasazení velkých modelů. Plány běží na AMD EPYC, NVMe úložiště, a 40 Gbps uplinky napříč 13 regionů. Plány GPU začínají od $506.35 za měsíc; zřizování trvá 60 sekund; CUDA obrazy jsou předinstalovány na plánech GPU. Cloudzy působí nezávisle od roku 2008, slouží 122 000+ vývojářů a má hodnocení 4.5 / 5 od více než 719 recenzentů na Trustpilotu.
- Cena od
- $506.35 / měsíc
- Typy GPU
- PRO 6000 · A100 · 5090 · 4090
- Zřizování
- 60 sekund
- Oblasti
- 13 po celém světě
- SLA dostupnosti
- 99.95%
- Vrácení peněz
- 14 dní
Proč vývojáři AI sází na Cloudzy
Cloud, který lodě AI.
Čtyři důvody, proč vaše AI úlohy patří právě sem.
AMD EPYC + NVMe
Nejnovější EPYC pro inferenci CPU, NVMe pro rychlé načítání modelů. Dedikované GPUs přes PCI passthrough v plánech GPU.
Vrácení peněz do 14 dnů
Spusťte skutečný test inference latence na Cloudzy. Pokud nevyhovuje vašemu SLO, do 14 dnů vám vrátíme peníze.
99,95% dostupnost
Produkční AI APIs potřebují hostitele, který se v době špičky nepřestartuje. Dostupnost za posledních 30 dní je veřejně sledována na status.cloudzy.com.
Inženýři na chatu
Zaseknuli jste se na verzích CUDA, chybách NCCL nebo ladění vLLM? Inženýři se zkušenostmi s AI zátěží jsou k dispozici během minut, ne hodin.
Sada nástrojů AI
Přineste jakýkoliv framework.
Běží.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit připraveny v plánech GPU
PyTorch
CPU a GPU
TensorFlow
CPU a GPU
vLLM
Provoz GPU LLM
Ollama
CPU + LLM na GPU
Hugging Face
Transformers · Diffusers
pgvector
RAG vektorové úložiště
Qdrant
Vektorová databáze
LangChain
Framework agenta
Případy použití
Na čem pracují AI týmy
Cloudzy.
RAG backendy
Postgres + pgvector nebo Qdrant na CPU serveru VPS, volitelně GPU box pro embedding a generování. NVMe zajišťuje rychlé vektorové vyhledávání.
Běh agentů
Dlouhodobě běžící agenti LangChain nebo LlamaIndex, kteří volají OpenAI/Anthropic API a pracují s vlastními daty. Statická IP udržuje tool-calling stabilní.
Generování obrázků a videa
Stable Diffusion, SDXL, ComfyUI a video modely na GPU s RTX kartami. NVMe umožňuje výměnu modelů během sekund, ne minut.
Doladění a trénink
LoRA / QLoRA fine-tuning na RTX kartách, trénink celých parametrů na datacenterových GPU. CUDA, NCCL a PyTorch jsou předinstalované.
Vkládání pracovníků
Spusťte sentence-transformers worker na CPU serveru VPS s 16–32 GB a embedujte miliony dokumentů bez platby za každé volání SaaS API.
60s
Zřizování
40 Gbps
Spojení nahoru
Pouze NVMe
Úložiště
13
Oblasti
99.95%
SLA dostupnosti
14 dní
Vrácení peněz
Globální síť
13 regionů. Čtyři kontinenty.
Inference latence vyřešena.
Umístěte svůj AI API blízko zákazníků. Kombinujte CPU gateway v jednom regionu s GPU boxem v jiném.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Ceny
Doporučené plány GPU. Hodinově nebo ročně.
Roční fakturace je momentálně 35% sleva u každého plánu GPU.
Nejoblíbenější
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Nasadit hned Vrácení peněz do 14 dnů
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA předinstalován
Často kladené otázky. AI VPS
Běžné otázky, přímé odpovědi.
Co je AI VPS?
AI server VPS je Linux cloudový server dimenzovaný a nakonfigurovaný pro AI úlohy: vysoký počet RAM a EPYC jader pro CPU inference a RAG, nebo NVIDIA GPU pro trénink a provoz velkých modelů. Připojíte se, nainstalujete svůj stack a spustíte. Jeden typ serveru, různé konfigurace pro různé úlohy.
Potřebuji GPU, nebo mi postačí CPU?
CPU zvládne menší kvantované modely, vektorové vyhledávání a lehčí úlohy AI. Pro rychlejší inferenci, větší modely nebo trénování zvolte GPU. Výběr závisí na modelu, provozu a požadované době odezvy.
Mohu spustit inferenci API za load balancerem?
Ano. Spusťte vLLM, TGI nebo vlastní FastAPI službu na GPU stroji, před ni postavte malý CPU VPS jako API gateway a rate limiter. Oba sdílejí privátní síť ve stejném regionu. 40 Gbps znamená, že gateway nikdy nebude úzké hrdlo.
Mohu hostovat RAG backend?
Ano. VPS s CPU může provozovat vaši aplikaci RAG a vektorovou databázi, například PostgreSQL s pgvector nebo Qdrant. Pro generování jej připojte k hostovanému LLM nebo VPS s GPU. Potřeba RAM a úložiště závisí na vašich datech, modelech a provozu.
Které AI frameworky jsou podporovány?
Všechny. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (na příslušném hardwaru), Hugging Face Transformers, instalace přes conda, pip nebo Docker. Předpřipravené CUDA image u GPU plánů, plný root přístup u každého plánu.
Jsou GPUs sdílené?
Ne. Plány GPU využívají PCI passthrough – GPU, který si zarezervujete, je vyhrazen výhradně pro váš VM s plnou pamětí a plnými takty. CUDA, NVENC i NCCL se chovají stejně jako na fyzickém serveru. RTX řada pro cenově dostupný inference, datacentrová řada pro náročný trénink.
Kolik VRAM potřebuji?
Potřeba VRAM závisí na velikosti modelu, přesnosti, délce kontextu a souběžných požadavcích. Model 7B ve 4 bitech se pro inferenci může vejít do 8 GB; model 70B potřebuje přibližně 35 GB jen na váhy a další paměť za běhu. Trénování vyžaduje více paměti, proto před výběrem tarifu ověřte požadavky modelu.
Je k dispozici záruka vrácení peněz?
Ano, do 14 dní od nákupu dostanete plnou náhradu bez jakýchkoli otázek. Otestujte si skutečnou latenci inference, spusťte vlastní RAG benchmark a rozhodněte se, jestli vám Cloudzy vyhovuje, než se zavážete na rok.
Jak rychle probíhá zřízení?
Po potvrzení platby je váš AI VPS spuštěný během 60 sekund. CPU nebo GPU. Plány GPU mají předinstalované CUDA image – `nvidia-smi` odpoví během pár sekund. Plány CPU jsou dodávány s Ubuntu LTS nebo Debian, váš AI stack nainstalujete přes conda nebo pip za pár minut.
Mohu na Cloudzy GPU VPS provozovat úlohy AI v produkci?
Ano. Vyberte tarif s dostatkem VRAM, CPU a RAM pro své úlohy a otestujte výkon při očekávaném provozu. Nastavte zabezpečení, monitoring a zálohy; pro vysokou dostupnost použijte více instancí.
Připraveni, kdykoli jste vy.
AI VPS za 60 sekund.
Vyberte konfiguraci podle své zátěže. CPU pro inferenci a RAG, GPU pro trénování. Vše ve stejném panelu.
Bez platební karty · Vrácení peněz do 14 dnů · Zruš kdykoli