Suy luận LLM API
Phục vụ các LLM lớp 7B–70B được lượng tử hóa phía sau điểm cuối tương thích với OpenAI của riêng bạn. vLLM hoặc TGI trên GPU, llama.cpp / Ollama trên CPU mạnh. Tính phí cho khách hàng của bạn theo token.
Dịch vụ lưu trữ VPS AI
Các khối lượng công việc AI,
chọn cấu hình phù hợp với bạn.
GPU cao cấp cho suy luận / RAG, hoặc GPU cấp NVIDIA cho huấn luyện, cùng một bảng điều khiển.
NVMe + mạng 40 Gbps. Đám mây độc lập từ năm 2008.
Khởi điểm từ $506.35/mo · giảm 35% khi thanh toán theo năm · Không cần thẻ tín dụng
~ ssh root@ai-nyc-001 kết nối
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
AI VPS trong nháy mắt
Cloudzy offers AI VPS hosting on dedicated NVIDIA-class Các gói GPU dành cho việc huấn luyện mô hình và triển khai mô hình lớn. Các gói chạy trên AMD EPYC, Lưu trữ NVMe, và 40 Gbps uplink khắp 13 khu vực. Gói GPU bắt đầu từ $506.35 mỗi thángCung cấp mất 60 giây; CUDA images được cài đặt sẵn trên các gói GPU. Cloudzy hoạt động độc lập từ năm 2008, phục vụ 122.000+ lập trình viên, và được đánh giá 4.6 / 5 by 770+ reviewers trên Trustpilot.
- Giá khởi điểm
- $506.35 / tháng
- Các loại GPU
- PRO 6000 · A100 · 5090 · 4090
- Cấp phát
- 60 giây
- Các vùng
- 13 trên toàn cầu
- Uptime SLA
- 99.95%
- Hoàn lại tiền
- 14 ngày
Lý do các nhà phát triển AI chọn Cloudzy
Một đám mây mà tàu AI.
Bốn lý do để chạy workload AI của bạn tại đây.
AMD EPYC + NVMe
GPU thế hệ mới nhất cho suy luận EPYC, NVMe để tải mô hình nhanh. GPU chuyên dụng qua PCI passthrough trên các gói GPU.
Hoàn tiền trong 14 ngày
Chạy thử nghiệm độ trễ inference thực tế trên Cloudzy. Nếu không đáp ứng SLO của bạn, hoàn tiền trong vòng 14 ngày.
99.95% thời gian hoạt động
AI production APIs cần một máy chủ không khởi động lại giữa giờ cao điểm. SLA 30 ngày gần nhất được công bố công khai tại status.cloudzy.com.
Kỹ sư trên chat
Gặp khó với phiên bản CUDA, lỗi NCCL, hay tinh chỉnh vLLM? Đội ngũ kỹ sư có kinh nghiệm với AI workload - phản hồi trong vài phút, không phải vài giờ.
Ngăn xếp AI
Dùng framework nào cũng được.
Nó chạy.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit đã sẵn sàng trên các gói GPU
PyTorch
CPU và GPU
TensorFlow
CPU và GPU
vLLM
Phục vụ GPU LLM
Ollama
CPU + GPU LLMs
Hugging Face
Transformers · Diffusers
pgvector
Kho vector RAG
Qdrant
Cơ sở dữ liệu Vector
LangChain
Khung Agent
Trường hợp sử dụng
Nền tảng mà các nhóm AI tin dùng
Cloudzy.
Các backend RAG
Postgres + pgvector hoặc Qdrant trên một CPU VPS, thêm GPU nếu cần cho embedding/generation. NVMe giúp vector lookup luôn nhanh.
Thời gian chạy Agent
Các agent LangChain hoặc LlamaIndex chạy lâu dài, gọi đến các API của OpenAI/Anthropic và dữ liệu của bạn. IP tĩnh giúp việc gọi tool luôn ổn định.
Tạo ảnh / video
Stable Diffusion, SDXL, ComfyUI, các mô hình video trên GPU dòng RTX. NVMe cho phép bạn chuyển đổi mô hình trong vài giây, không phải vài phút.
Tinh chỉnh & huấn luyện mô hình
Tinh chỉnh LoRA / QLoRA trên GPU dòng RTX, huấn luyện toàn tham số trên GPU datacenter-class. CUDA, NCCL, PyTorch cài sẵn, dùng ngay.
Nhân viên nhúng
Chạy worker sentence-transformers trên CPU VPS với 16–32 GB RAM để nhúng vector hàng triệu tài liệu mà không phải trả phí theo từng lần gọi SaaS.
60s
Cấp phát
40 Gbps
Liên kết lên
Chỉ NVMe
Lưu trữ
13
Các vùng
99.95%
Uptime SLA
14 days
Hoàn lại tiền
Mạng toàn cầu
13 khu vực. Bốn châu lục.
Độ trễ suy luận? Đã được giải quyết.
Đặt AI API gần với người dùng của bạn. Kết hợp một gateway CPU ở một khu vực với một máy chủ GPU ở khu vực khác.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Định giá
Các gói GPU nổi bật. Hàng giờ hoặc hàng năm.
Thanh toán hàng năm hiện đang Giảm 35% trên mọi gói GPU.
Phổ biến nhất
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Triển khai ngay Hoàn tiền trong 14 ngày
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA được cài đặt sẵn
Các câu hỏi thường gặp. AI VPS
Câu hỏi thường gặp, câu trả lời thẳng thắn.
AI VPS là gì?
VPS AI là máy chủ đám mây Linux được trang bị cấu hình phù hợp cho các tác vụ AI, với RAM lớn và nhân EPYC cho suy luận CPU và RAG, hoặc GPU dòng NVIDIA cho việc huấn luyện và phục vụ mô hình lớn. Bạn kết nối qua SSH, cài đặt môi trường làm việc và chạy ngay. Cùng một VPS nhưng có nhiều cấu hình khác nhau phù hợp với từng nhu cầu cụ thể.
Tôi có cần GPU không, hay CPU cũng được?
Tùy vào model. Các model 7B dạng quantized (int4 / int8 qua llama.cpp hoặc Ollama) chạy tốt trên gói CPU 16–32 GB. Embedding model, vector database (Qdrant, Weaviate, pgvector) và pipeline RAG hầu hết bị giới hạn bởi CPU. Để training, phục vụ model lớn hơn, hoặc bất kỳ tác vụ nào đòi hỏi throughput cao, bạn cần gói GPU.
Tôi có thể chạy inference API phía sau một load balancer không?
Được. Chạy vLLM, TGI, hoặc dịch vụ FastAPI của riêng bạn trên máy chủ GPU, đặt một VPS CPU nhỏ phía trước làm API gateway và rate limiter. Cả hai chia sẻ mạng riêng trong cùng một region. Băng thông 40 Gbps đảm bảo gateway không bao giờ là điểm nghẽn cổ chai.
Tôi có thể host backend RAG không?
Đúng, và đây là một trong những kiến trúc phổ biến nhất. Một CPU VPS RAM 16–32 GB chạy Postgres + pgvector hoặc Qdrant với chi phí thấp, bạn gọi ra một GPU VPS hoặc LLM được host sẵn để sinh nội dung. NVMe giúp truy vấn vector nhanh hơn, EPYC xử lý tính toán embedding khi bạn chạy batch.
Những framework AI nào được hỗ trợ?
Tất cả đều được hỗ trợ. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (trên phần cứng phù hợp), Hugging Face Transformers, cài đặt qua conda, pip, hoặc Docker. Các gói CUDA được cài sẵn trên các gói GPU, toàn quyền root trên mọi gói dịch vụ.
Các GPU có phải dùng chung không?
Không. Các gói GPU sử dụng PCI passthrough, GPU bạn thuê được dành riêng cho VM của bạn, toàn bộ bộ nhớ và toàn bộ xung nhịp. CUDA, NVENC, NCCL hoạt động hoàn toàn giống như trên máy bare-metal. RTX-class phù hợp cho inference tiết kiệm chi phí, datacenter-class dành cho training hiệu năng cao.
Tôi cần bao nhiêu VRAM?
8 GB for SDXL or 7B-class LLMs at int4. 24 GB for 13B at fp16 or 70B at int4. 40+ GB for fp16 70B and full-precision training. Match the GPU plan to your model size, quantization changes the math, so test before committing to a tier.
Có đảm bảo hoàn tiền không?
Có, trong vòng 14 ngày kể từ ngày mua, hoàn tiền toàn bộ, không cần giải thích. Chạy thử inference latency thực tế, benchmark RAG thực tế, và tự đánh giá xem Cloudzy có phù hợp không trước khi cam kết cả năm.
Cấp phát nhanh thế nào?
Sau khi thanh toán được xác nhận, AI VPS của bạn sẽ hoạt động trong vòng 60 giây. CPU hoặc GPU. Các gói GPU đi kèm image CUDA được cài sẵn, chạy `nvidia-smi` là có kết quả ngay. Các gói CPU được cài sẵn Ubuntu LTS hoặc Debian, bạn có thể cài AI stack qua conda hoặc pip trong vài phút.
Tôi có thể dùng cái này trong môi trường production không?
Có. Cam kết uptime 99,95% SLA, tính phí theo giờ, không ràng buộc hợp đồng, IP riêng, và khả năng nâng cấp CPU RAM/vCPU/storage trực tiếp mà không cần rebuild. Nhiều khách hàng của chúng tôi chạy AI inference và RAG API trên môi trường production ngay từ Cloudzy.
Sẵn sàng khi bạn cần.
AI VPS trong 60 giây.
Chọn cấu hình phù hợp với workload của bạn. CPU dành cho inference / RAG; GPU dành cho training. Cùng một bảng điều khiển.
Không cần thẻ tín dụng · Hoàn tiền trong 14 ngày · Hủy bất cứ lúc nào