Wnioskowanie LLM API
Serwuj skwantyzowane modele LLM klasy 7B–70B za własnym endpointem kompatybilnym z OpenAI. vLLM lub TGI na GPU, llama.cpp / Ollama na dużym CPU. Rozliczaj klientów per token.
Hosting VPS dla sztucznej inteligencji
Obciążenia AI,
wybierz swój wariant.
Wysokiej RAM CPU do inference / RAG albo GPU klasy NVIDIA do trenowania - ten sam panel VPS.
NVMe + sieć 40 Gbps. Niezależna chmura od 2008 roku.
Od $506.35/mo · 35% rabatu przy płatności rocznej · Bez karty kredytowej
~ ssh root@ai-nyc-001 połączony
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
Przegląd VPS dla AI
Cloudzy offers AI VPS hosting on dedicated Klasa NVIDIA plany GPU do trenowania i obsługi dużych modeli. Plany działają na AMD EPYC, Pamięć NVMe, oraz 40 Gbps łącza w 13 regionów. Plany GPU już od $506.35 miesięcznie; przydzielanie trwa 60 sekund; obrazy CUDA są wstępnie skonfigurowane w planach GPU. Cloudzy od 2008 roku działa niezależnie, obsługuje 122 000+ deweloperów i ma ocenę 4.5 / 5 od ponad 719 recenzentów na Trustpilot.
- Cena początkowa
- $506.35 / miesiąc
- Typy GPU
- PRO 6000 · A100 · 5090 · 4090
- Aprowizacja
- 60 sekund
- Regiony
- 13 na całym świecie
- SLA uptime
- 99.95%
- Zwrot pieniędzy
- 14 dni
Dlaczego twórcy AI wybierają Cloudzy
Chmura, która wysyła AI.
Cztery powody, dla których Twoje workloady AI powinny działać właśnie tutaj.
AMD EPYC + NVMe
Najnowsze EPYC do inference CPU, NVMe dla szybkiego wczytywania modeli. Dedykowane GPU przez PCI passthrough w planach GPU.
Zwrot w ciągu 14 dni
Uruchom swój rzeczywisty test latencji inference na Cloudzy. Jeśli nie spełnia Twojego SLO, otrzymasz zwrot w ciągu 14 dni.
99,95% czasu dostępności
Produkcyjne API AI potrzebują hosta, który nie restartuje się w godzinach szczytu. SLA z ostatnich 30 dni jest publicznie dostępny na status.cloudzy.com.
Inżynierowie na czacie
Problemy z wersjami CUDA, błędy NCCL albo strojenie vLLM? Inżynierowie z doświadczeniem w workloadach AI odpowiedzą w minuty, nie godziny.
Stos sztucznej inteligencji
Przynieś dowolny framework.
To działa.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit gotowy na planach GPU
PyTorch
CPU i GPU
TensorFlow
CPU i GPU
vLLM
Serwowanie modeli GPU LLM
Ollama
Wnioskowanie CPU + GPU LLM
Hugging Face
Transformers · Diffusers
pgvector
Magazyn wektorów RAG
Qdrant
Baza danych wektorów
LangChain
Framework agenta
Przypadki użycia
Na czym pracują zespoły AI
Cloudzy.
Backendy RAG
Postgres + pgvector lub Qdrant na serwerze CPU VPS, opcjonalnie GPU do embeddingów i generowania. NVMe sprawia, że wyszukiwania wektorowe pozostają szybkie.
Środowiska uruchomieniowe agenta
Długo działające agenty LangChain lub LlamaIndex, które wywołują API OpenAI/Anthropic i Twoje własne dane. Stały IP utrzymuje stabilność wywoływania narzędzi.
Generowanie obrazów i wideo
Stable Diffusion, SDXL, ComfyUI, modele wideo na GPU klasy RTX. NVMe pozwala zamieniać modele w sekundy, nie minuty.
Fine-tuning i trenowanie
Fine-tuning LoRA / QLoRA na GPU klasy RTX, pełny trening parametrów na GPU klasy datacenter. CUDA, NCCL i PyTorch gotowe od razu.
Osadzanie pracowników
Uruchom worker sentence-transformers na serwerze CPU VPS z 16–32 GB, aby osadzać miliony dokumentów bez opłat per zapytanie.
60s
Aprowizacja
40 Gbps
Łącze wznoszące
Tylko NVMe
Pamięć
13
Regiony
99.95%
SLA uptime
14 dni
Zwrot pieniędzy
Sieć globalna
13 regionów. Cztery kontynenty.
Opóźnienia wnioskowania - rozwiązane.
Umieść swoje API AI blisko klientów. Połącz bramę CPU w jednym regionie z maszyną GPU w innym.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Ceny
Polecane plany GPU. Godzinowo lub rocznie.
Rozliczanie roczne jest teraz 35% rabatu na każdym planie GPU.
Najczęściej wybierany
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Wdróż teraz Zwrot w ciągu 14 dni
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA wstępnie zainstalowany
Najczęściej zadawane pytania. AI VPS
Częste pytania, konkretne odpowiedzi.
Czym jest AI VPS?
Serwer AI VPS to serwer chmurowy Linux zwymiarowany i skonfigurowany pod zadania AI - duże zasoby RAM i rdzenie EPYC do wnioskowania CPU i RAG, albo GPU klasy NVIDIA do trenowania i serwowania dużych modeli. Logujesz się, instalujesz swój stack i działasz. Ten sam typ serwera VPS, różne konfiguracje do różnych zadań.
Czy potrzebuję GPU, czy wystarczy CPU?
CPU poradzi sobie z mniejszymi modelami skwantyzowanymi, wyszukiwaniem wektorowym i lżejszymi zadaniami AI. Wybierz GPU do szybszej inferencji, większych modeli lub trenowania. Wybór zależy od modelu, ruchu i wymaganego czasu odpowiedzi.
Czy mogę uruchomić serwer inferencing API za load balancerem?
Tak. Uruchom vLLM, TGI lub własny serwis FastAPI na maszynie GPU, a przed nim postaw mały VPS CPU jako bramę API i rate limiter. Obie maszyny działają w tej samej sieci prywatnej w tym samym regionie. Przy 40 Gbps brama nigdy nie staje się wąskim gardłem.
Czy mogę hostować backend RAG?
Tak. VPS z CPU może obsługiwać aplikację RAG i bazę wektorową, taką jak PostgreSQL z pgvector lub Qdrant. Do generowania odpowiedzi połącz go z hostowanym LLM lub VPS z GPU. Zapotrzebowanie na RAM i przestrzeń dyskową zależy od zbioru danych, modeli i ruchu.
Jakie frameworki AI są obsługiwane?
Wszystkie. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (na odpowiednim sprzęcie), Hugging Face Transformers - instalacja przez conda, pip lub Docker. Gotowe obrazy CUDA w planach GPU, pełny dostęp root w każdym planie.
Czy GPU są współdzielone?
Nie. Plany GPU używają PCI passthrough - zarezerwowany GPU jest dedykowany wyłącznie Twojej VM, z pełną pamięcią i pełnymi taktowaniami. CUDA, NVENC i NCCL działają tak samo jak na maszynie bare-metal. Karty klasy RTX do ekonomicznego wnioskowania, karty klasy datacenter do zaawansowanego trenowania.
Ile VRAM potrzebuję?
Zapotrzebowanie na VRAM zależy od rozmiaru modelu, precyzji, długości kontekstu i liczby równoczesnych zapytań. Model 7B w 4 bitach może zmieścić się w 8 GB do inferencji; model 70B wymaga około 35 GB na same wagi oraz dodatkowej pamięci podczas działania. Trenowanie wymaga więcej pamięci, więc przed wyborem planu sprawdź wymagania modelu.
Czy oferujecie gwarancję zwrotu pieniędzy?
Tak, 14 dni od zakupu, pełny zwrot, bez pytań. Przeprowadź prawdziwy test opóźnień inferencing, prawdziwy benchmark RAG i zdecyduj, czy Cloudzy spełnia Twoje wymagania, zanim zobowiążesz się na rok.
Jak szybkie jest przygotowanie serwera?
Po potwierdzeniu płatności Twój VPS AI jest gotowy w 60 sekund. CPU lub GPU. Gotowe obrazy CUDA w planach GPU sprawiają, że `nvidia-smi` odpowiada w ciągu kilku sekund. Plany CPU są dostarczane z Ubuntu LTS lub Debian - zainstaluj swój stack AI przez conda lub pip w kilka minut.
Czy mogę uruchamiać produkcyjne zadania AI na VPS GPU Cloudzy?
Tak. Wybierz plan z wystarczającą ilością VRAM, CPU i RAM dla swojego obciążenia i przetestuj wydajność przy przewidywanym ruchu. Skonfiguruj zabezpieczenia, monitoring i kopie zapasowe; użyj wielu instancji, jeśli potrzebujesz wysokiej dostępności.
Gotowi, kiedy ty jesteś.
AI VPS w 60 sekund.
Wybierz konfigurację dopasowaną do swoich potrzeb. CPU do inferencji i RAG, GPU do trenowania. Jeden panel.
Bez karty kredytowej · Zwrot pieniędzy w ciągu 14 dni · Anuluj w dowolnej chwili