LLM következtetés
Llama 3, Mistral, DeepSeek vagy Qwen kiszolgálása vLLM vagy Text Generation Inference segítségével. A RTX 4090 4 bites kvantálással kezeli a 70B-s modelleket, a RTX 5090 8 bites kvantálással, a A100 kvantálás nélkül.
GPU VPS Hosting
RTX PRO 6000 Blackwell. A100. RTX 5090.
Dedikált, nem osztott.
Teljes GPU átvezetés. RTX PRO 6000 Blackwell, A100, RTX 5090, RTX 4090. Előre telepített CUDA, cuDNN, PyTorch.
NVMe + 40 Gbps hálózat. Független felhőszolgáltató 2008 óta.
Kezdő ár $506.35/mo · 35% kedvezmény éves fizetésnél · Bankkártya nélkül
~ ssh root@gpu-train-001 csatlakozva
root@gpu-train-001:~# nvidia-smi --query-gpu=name,memory.total,driver_version --format=csv
name, memory.total, driver_version
NVIDIA RTX PRO 6000 Blackwell, 98304 MiB, 560.94
root@gpu-train-001:~# python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"
True NVIDIA RTX PRO 6000 Blackwell
root@gpu-train-001:~# python train.py --model llama-3-8b --epochs 3
→ Training step 1/2400 · 4.2s/step · loss=2.143
root@gpu-train-001:~# _
GPU VPS egy pillantásra
Cloudzy GPU VPS csomagokat kínál dedikált RTX PRO 6000 Blackwell, Nvidia A100, RTX 5090, és RTX 4090 kártyák a 1× to 4× konfigurációk, kezdve $506.35 havonta. Each plan ships pre-installed with the latest CUDA, cuDNN, and Nvidia drivers, runs on AMD EPYC + DDR5 with Csak NVMe tárhely és 40 Gbps uplink kapcsolattal, és perceken belül üzembe helyezhető 60 másodperc. GPUs are dedicated passthrough, not vGPU, not MIG, not shared. A Cloudzy 2008 óta függetlenül működik, a Trustpiloton pedig 4.5 / 5 pontszámot kapott 717+ értékelőtől.
- Kezdő ár
- $506.35 / mo
- GPU típusok
- PRO 6000 · A100 · 5090 · 4090
- Konfigurációk
- 1× to 4×
- CUDA
- Előre telepítve
- Éves kedvezmény
- 35% kedvezmény
- Pénzvisszafizetés
- 14 nap
Miért választják az ML csapatok a Cloudzy-t
GPU számítási kapacitás a unborított módon.
Négy ok, amiért a csapatok átváltanak a Cloudzy-ra a AWS / GCP / hyperscaler GPU-król.
Dedikált GPU passthrough
A teljes fizikai kártya a tiéd: nincs vGPU szeletelés, nincs MIG partíció, nincs más bérlőkkel való versengés. CUDA magok, VRAM, PCIe sávok mind dedikáltak.
CUDA-kész képek
A legfrissebb Nvidia driverek, CUDA toolkit és cuDNN előre integrálva az Ubuntu image-be. PyTorch, TensorFlow, JAX, Hugging Face, egy pip install, és máris taníthatod a modellt.
NVMe + 40 Gbps
Tiszta NVMe tárhely, hogy az adatbetöltés ne legyen szűk keresztmetszet. 40 Gbps hálózattal egy 100 GB-os Hugging Face modell letöltése másodpercek alatt megvan, nem percekig tart.
24/7 emberi támogatás
Valódi mérnökök a chaten. Elég csapatnak segítettük már a multi-GPU tanítás beállítását, CUDA OOM hibák debugolását és Llama inferencia hangolását ahhoz, hogy gyors választ kapj.
GPU termékcsalád
Négy család.
Kilenc lehetőség a skálázásra.
RTX PRO 6000 Blackwell for pro-grade inference and rendering with 96 GB GDDR7 ECC VRAM. A100 for training and large-VRAM workloads. RTX 5090 for the newest inference. RTX 4090 for cost-effective inference up to 70B (4-bit). Multi-GPU plans available, pick what your VRAM budget needs.
Teljes GPU passthrough, nem szeletelve, nem megosztva
RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM · Pro-grade
Nvidia A100
80 GB HBM2e · ML training
RTX 5090
32 GB GDDR7 · Blackwell
RTX 4090
24 GB GDDR6X · cost-effective
1× to 4× GPU
Multi-GPU csomagok elérhetők
CUDA preinstalled
PyTorch · TF · JAX kész
Pure NVMe
Gyors adatkészlet I/O
40 Gbps uplink
100 GB-os modelleket húzzon le 30 másodperc alatt
Felhasználási esetek
A munkaterhelések, amelyeket a mi
amelyen az ügyfelek valóban tanítanak.
Stable Diffusion · képgenerálás
Futtass SDXL-t, Flux-t vagy finomhangolt Stable Diffusion checkpointokat ComfyUI vagy Automatic1111 segítségével. A RTX 4090 standard 1024×1024-es SDXL generálásnál 30+ képet produkál percenként.
ML tanítás + finomhangolás
LoRA, QLoRA, teljes finomhangolás. A A100 az ideális választás 7B-13B-s, kvantálatlan modellek finomhangolásához; 4× A100 megfelelő shardolással (FSDP / DeepSpeed) akár 70B-s modelleket is kezel.
3D renderelés · Blender
A Cycles + OptiX RTX kártyákon a leggyorsabb megoldás animációs stúdiók számára. Az RTX 4090 plan 24 GB VRAM-je az egykockás gyártási jelenetek túlnyomó többségét lefedi.
Hang- és látórendszer-folyamatok
Whisper Large, Faster-Whisper, YOLO, Segment Anything. Még az RTX 4090 plan is valós idejű inferenciát biztosít ezeken a modelleken, bőséges tartalékkapacitással.
Hosszan futó kötegelt feladatok
Embedding-generálás, visszakeresési folyamatok, adatkészlet-előfeldolgozás. Fizess óránként, futtasd a feladatot, mentsd el a kimenetet snapshotba, töröld a szervert. Ugyanakkora munkaterhelésnél olcsóbb, mint bérelni AWS/GCP-n.
80 GB
A100 VRAM
40 Gbps
Felfelé mutató kapcsolat
CUDA-ready
Kép
4 ×
Max GPU-k
35%
Éves kedvezmény
14 nap
Pénzvisszafizetés
Árazás
Kiemelt GPU csomagok. Óránkénti vagy éves.
Az éves számlázás jelenleg 35% kedvezmény minden GPU csomagnál.
Legnépszerűbb
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Telepítés most 14 napos pénzvisszafizetés
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA előtelepítve
GYIK. GPU VPS
Gyakori kérdések, egyenes válaszok.
Milyen GPU-ket kínál a Cloudzy?
Four families: RTX PRO 6000 Blackwell (1×, 96 GB GDDR7 ECC VRAM, pro-grade for inference and rendering), Nvidia A100 (1× / 2× / 4×, for ML training, fp16/bf16 workloads, and 80 GB HBM2e per card), RTX 5090 (1× / 2×, newer Blackwell architecture, ideal for inference workloads and rendering), and RTX 4090 (1× / 2× / 4×, cost-effective for Stable Diffusion, LLM inference, and 3D rendering).
A GPU-k dedikáltak vagy megosztottak?
Dedikáltak. Minden csomag a teljes fizikai GPU(ek) közvetlen átadása, nem szelet, nem vGPU, nem MIG. A CUDA magok, a VRAM, a PCIe sávszélesség, mind a tiéd. A több GPU-es csomagok NVLinket használnak, ahol a fizikai hardver ezt támogatja (A100 több GPU-es csomagok).
Előre telepített a CUDA?
Igen. Minden GPU VPS a legújabb stabil CUDA toolkit-kel, cuDNN-nel és Nvidia driverekkel érkezik, amelyek előre be vannak sütve a Ubuntu image-be. Az PyTorch, TensorFlow, JAX és a Hugging Face stack azonnal használatra kész. Ha egy adott verziót szeretnél telepíteni, újra is képezheted a szervert CUDA nélküli, tiszta Ubuntu-re.
Mennyi VRAM-t kapok?
GPU-enként: RTX PRO 6000 Blackwell = 96 GB GDDR7 ECC VRAM, A100 = 80 GB HBM2e, RTX 5090 = 32 GB GDDR7, RTX 4090 = 24 GB GDDR6X. Több GPU-es csomagoknál ez összeadódik; egy 4× A100 csomagnál összesen 320 GB VRAM áll rendelkezésre. A fenti csomaglista a rendszer RAM-jét külön tünteti fel.
Futtathatok Stable Diffusion-t / Llamát / Whisperi egy GPU VPS-en?
Igen. Az 1× RTX 4090-es csomag jó kiindulópont: elegendő VRAM-mal rendelkezik SDXL inferenciához, Llama 3 70B (4 bites kvantálással) vagy Whisper Large futtatásához. Válassz RTX 5090-et vagy A100-at, ha kvantálás nélküli 70B modelleket szeretnél futtatni, vagy LoRA-kat szeretnél tanítani.
Hogyan viszonyul az ár a AWS / Google Cloud / Lambda Labs árazásához?
Általánosságban olcsóbb az állandó terhelésekhez, nem különböztetünk meg az árak között az „igény szerinti" és a „spot" között, és nincsenek kimenő adatátviteli díjaink. Nem idézünk fel versenytársak számait (ezek havonta változnak). A 14 napos pénzvisszaadási garancia lehetővé teszi az A/B tesztelést jelenlegi szolgáltatóddal szemben a saját benchmarkjaid alapján.
Van éves kedvezmény?
Igen, az éves számlázás minden GPU csomagnál 35% kedvezményt jelent (ez alacsonyabb, mint a normál CPU esetében érvényes 50%, mivel az GPU hardver amortizációs költsége magasabb). Nincs automatikus megújítás; minden éves ciklus előtt számlát küldünk, így szabadon válthatsz kisebb vagy nagyobb csomagra, illetve lemondhatod a szolgáltatást – váratlan díjak nélkül.
Mi a helyzet a hálózattal? Valóban 40 Gbps-t kapok?
Igen. Ugyanolyan 40 Gbps uplink kapcsolatok, mint a prémium Cloud VPS esetén, és nincs kimenő forgalmi díj a havi keret eléréséig. Praktikus nagy adathalmazok mozgatásához: egy 100 GB-os Hugging Face modell letöltése az GPU csomópontra nagyjából 30 másodpercet vesz igénybe maximális sávszélességen.
Futtathatok több csomópontos tanítást (több GPU VPS együtt)?
Igen, régión belül. Az ugyanabban az adatközpontban lévő VPS példányok helyi hálózaton kommunikálnak, ezredmásodpercnél kisebb késéssel. InfiniBand összeköttetést jelenleg nem kínálunk – a szabványos Ethernet feletti többcsomópontos tanítás finomhangoláshoz és kisebb léptékű elosztott feladatokhoz megfelelő, de nagy előtanítási munkáknál nem veszi fel a versenyt a bare-metal HPC megoldásokkal.
Visszatérítési garancia az GPU csomagokra?
14 nap, feltételek nélkül. A visszatérítés egy számlázási cikluson belül történik. Elég idő arra, hogy bemérjük a CUDA-átviteli sebességet, lefuttassunk egy valódi tanítási lépést, és eldöntsük, hogy az Cloudzy illik-e a munkaterhelésünkhöz.
Hagyja abba a felhőóriások árain való fizetést.
Tréningeld dedikált GPU-ken.
Válassz kártyát, válassz régiót, kattints. A CUDA már telepítve van.
Nincs szükség hitelkártyára · 14 napos pénzvisszafizetési garancia · Bármikor lemondható