LLM inferencia API-ok
Kvantált 7B–70B méretű LLM-okat szolgálhatsz ki saját OpenAI-kompatibilis végponton. vLLM vagy TGI GPU-en, llama.cpp / Ollama nagy CPU esetén. Számlázz ügyfeleidnek tokenenként.
AI VPS Hosting
AI számítási feladatok,
válassz formát.
Nagy teljesítményű RAM CPU inferenciához / RAG-hoz, vagy NVIDIA-osztályú GPU tanításhoz – mindezt ugyanabból az VPS panelből.
NVMe + 40 Gbps hálózat. Független felhőszolgáltató 2008 óta.
Kezdő ár $506.35/mo · 35% kedvezmény éves fizetésnél · Bankkártya nélkül
~ ssh root@ai-nyc-001 csatlakozva
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
AI VPS egy pillantásra
Cloudzy offers AI VPS hosting on dedicated NVIDIA-osztály GPU tervek modellbetanításhoz és nagy modellek kiszolgálásához. A tervek futtatása: AMD EPYC, NVMe tárhely, és 40 Gbps feltöltés 13 régió. GPU csomagok kezdődnek $506.35 havonta; az üzembe helyezés tart 60 másodperc; CUDA képek előre telepítve érhetők el az GPU csomagokon. A Cloudzy 2008 óta függetlenül működik, 122 000+ fejlesztőt szolgál ki, a Trustpiloton pedig 4.5 / 5 pontszámot kapott 719+ értékelőtől.
- Kezdő ár
- $506.35 / hónap
- GPU típusok
- PRO 6000 · A100 · 5090 · 4090
- Kiépítés
- 60 másodperc
- Régiók
- 13 világszerte
- Uptime SLA
- 99.95%
- Pénzvisszafizetés
- 14 nap
Miért választják az AI-fejlesztők az Cloudzy-t
Egy felhő, amely szállít AI.
Négy ok, amiért AI-munkaterhelésed ide való.
AMD EPYC + NVMe
Legújabb EPYC az CPU inferenciához, NVMe a gyors modellbetöltéshez. Dedikált GPU-ek PCI passthrough-on keresztül, GPU csomagokban.
14 napos pénzvisszafizetés
Futtass valódi inferencia-késleltetési tesztet az Cloudzy-n. Ha nem felel meg az SLO-dnak, 14 napon belül visszatérítünk.
99.95% üzemidő
Az éles AI APIoknak olyan hosztra van szükségük, amely csúcsterhelés közben sem indul újra. Az elmúlt 30 nap SLAát nyilvánosan követheted a status.cloudzy.com oldalon.
Mérnökök a chaten
Elakadtál CUDA-verziókkal, NCCL-hibákkal vagy vLLM hangolással? AI-terhelésben jártas mérnökeink perceken belül segítenek, nem órákon belül.
A mesterséges intelligencia verem
Bármilyen keretrendszerrel dolgozol, nálunk működik.
Működik.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit előre telepítve GPU terveken
PyTorch
CPU & GPU
TensorFlow
CPU & GPU
vLLM
GPU LLM kiszolgálás
Ollama
CPU + GPU LLM-ok
Hugging Face
Transformers · Diffusers
pgvector
RAG vektortár
Qdrant
Vektor adatbázis
LangChain
Ügynök keretrendszer
Felhasználási esetek
Amin az AI-csapatok dolgoznak
Cloudzy.
RAG háttérrendszerek
Postgres + pgvector vagy Qdrant egy CPU-os VPS-on, opcionálisan egy GPU gép embedding és generálás céljára. NVMe gondoskodik arról, hogy a vektoros keresések gyorsak maradjanak.
Ügynök futtatási időpontok
Hosszan futó LangChain vagy LlamaIndex ügynökök, amelyek OpenAI/Anthropic API-okat és saját adatforrásokat hívnak. A statikus IP stabilan tartja az eszközhívásokat.
Kép- és videógenerálás
Stable Diffusion, SDXL, ComfyUI, videómodellek RTX-osztályú GPU-eken. NVMe segítségével másodpercek alatt váltasz modellt.
Fine-tuning és tanítás
LoRA / QLoRA fine-tuning RTX-osztályon, teljes paraméteres tanítás adatközpont-osztályú GPU-eken. Előre telepített CUDA, NCCL, PyTorch.
Beágyazási dolgozók
Futtass egy sentence-transformers munkást 16–32 GB-os CPU-es VPS-on, és ágyazz be millió dokumentumot anélkül, hogy hívásalapú SaaS díjakat fizetnél.
60s
Kiépítés
40 Gbps
Felfelé mutató kapcsolat
Csak NVMe
Tárhely
13
Régiók
99.95%
Uptime SLA
14 nap
Pénzvisszafizetés
Globális hálózat
13 régió. Négy kontinens.
Inferencia-késleltetés megoldva.
Helyezd az AI API-odat közel az ügyfeleidhez. Párosíts egy CPU átjárót az egyik régióban egy GPU géppel egy másikban.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Árazás
Kiemelt GPU csomagok. Óránkénti vagy éves.
Az éves számlázás jelenleg 35% kedvezmény minden GPU csomagnál.
Legnépszerűbb
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Telepítés most 14 napos pénzvisszafizetés
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA előtelepítve
GYIK. AI VPS
Gyakori kérdések, egyenes válaszok.
Mi az AI VPS?
Az AI VPS egy Linux felhőszerver, amelyet AI-munkaterhelésekre méreteztek és konfiguráltak: nagy RAM és sok EPYC mag CPU-es inferenciához és RAG-hoz, illetve NVIDIA-osztályú GPU-ek tanításhoz és nagy modellek kiszolgálásához. Bejelentkezel, telepíted a stackedet, és futtatod. Ugyanaz a VPS, különböző formákban, különböző feladatokhoz.
Szükségem van GPU-re, vagy CPU is elegendő?
A CPU kisebb kvantált modellekhez, vektoros kereséshez és könnyebb AI-feladatokhoz is megfelelő lehet. Gyorsabb inferenciához, nagyobb modellekhez vagy tanításhoz válasszon GPU-t. A választás a modelltől, a forgalomtól és az elvárt válaszidőtől függ.
Futtathatok inference API-t terheléselosztó mögött?
Igen. Futtasd a vLLM-t, a TGI-t vagy a saját FastAPI szolgáltatásodat egy GPU gépen, és helyezz elé egy kisebb CPU VPS-t API-átjáróként és sebességkorlátozóként. Mindkettő ugyanazon a privát hálózaton osztozik, azonos régióban. A 40 Gbps-os sávszélesség miatt az átjáró sosem jelent szűk keresztmetszetet.
Hosztolhatok RAG backendet?
Igen. Egy CPU-s VPS futtathatja a RAG-alkalmazását és egy vektoradatbázist, például PostgreSQL-t pgvector bővítménnyel vagy Qdrantot. A szöveggeneráláshoz csatlakoztassa egy hosztolt LLM-hez vagy GPU-s VPS-hez. A RAM- és tárhelyigény az adatkészlettől, a modellektől és a forgalomtól függ.
Mely AI keretrendszerek támogatottak?
Mindegyik. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (megfelelő hardveren), Hugging Face Transformers – telepítsd conda, pip vagy Docker segítségével. A GPU csomagokon előre konfigurált CUDA image-ek érhetők el, minden csomaghoz teljes root hozzáférés jár.
A GPU-ek megosztottak?
Nem. A GPU csomagok PCI passthrough-t használnak: a lefoglalt GPU kizárólag a te VM-edhez tartozik, teljes memóriával és órajelekkel. A CUDA, NVENC és NCCL pontosan úgy viselkedik, mint egy bare-metal gépen. RTX-osztály a költséghatékony inferenciához, adatközponti osztály a csúcsteljesítményű tanításhoz.
Mennyi VRAM kell?
A VRAM-igény a modell méretétől, pontosságától, a kontextus hosszától és a párhuzamos kérésektől függ. Egy 4 bites 7B modell inferenciához elférhet 8 GB-ban; egy 70B modell csak a súlyokhoz körülbelül 35 GB-ot, ezen felül futásidejű memóriát igényel. A tanítás több memóriát igényel, ezért csomagválasztás előtt ellenőrizze a modell követelményeit.
Van pénzvisszafizetési garancia?
Igen, a vásárlástól számított 14 napon belül teljes visszatérítés, feltétel nélkül. Végezd el az éles inference késleltetési tesztet és a RAG benchmarkot, és döntsd el, megfelel-e számodra a Cloudzy, mielőtt éves előfizetésre váltasz.
Milyen gyors a kiépítés?
A fizetés jóváhagyása után az AI VPS-ed 60 másodpercen belül él. CPU és GPU esetén egyaránt. A GPU csomagokon az előre konfigurált CUDA image-eknek köszönhetően az `nvidia-smi` másodperceken belül visszatér. A CPU csomagokhoz Ubuntu LTS vagy Debian jár; az AI stack-et conda vagy pip segítségével néhány perc alatt telepítheted.
Futtathatok éles AI-feladatokat Cloudzy GPU VPS-en?
Igen. Válasszon a feladathoz elegendő VRAM-ot, CPU-t és RAM-ot biztosító csomagot, és tesztelje a teljesítményt a várható forgalom mellett. Állítsa be a biztonságot, a monitorozást és a mentéseket; magas rendelkezésre álláshoz használjon több példányt.
Készen állunk, amikor Ön is.
AI VPS 60 másodperc alatt.
Válaszd a munkaterhedhez illő konfigurációt. CPU inferenciához / RAG-hoz; GPU tanításhoz. Ugyanaz a vezérlőpult.
Nincs szükség hitelkártyára · 14 napos pénzvisszafizetési garancia · Bármikor lemondható