Suy luận LLM API
Phục vụ các LLM lớp 7B–70B được lượng tử hóa phía sau điểm cuối tương thích với OpenAI của riêng bạn. vLLM hoặc TGI trên GPU, llama.cpp / Ollama trên CPU mạnh. Tính phí cho khách hàng của bạn theo token.
Dịch vụ lưu trữ VPS AI
Các khối lượng công việc AI,
chọn cấu hình phù hợp với bạn.
GPU cao cấp cho suy luận / RAG, hoặc GPU cấp NVIDIA cho huấn luyện, cùng một bảng điều khiển.
NVMe + mạng 40 Gbps. Đám mây độc lập từ năm 2008.
Khởi điểm từ $506.35/mo · giảm 35% khi thanh toán theo năm · Không cần thẻ tín dụng
~ ssh root@ai-nyc-001 kết nối
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
AI VPS trong nháy mắt
Cloudzy offers AI VPS hosting on dedicated NVIDIA-class Các gói GPU dành cho việc huấn luyện mô hình và triển khai mô hình lớn. Các gói chạy trên AMD EPYC, Lưu trữ NVMe, và 40 Gbps uplink khắp 13 khu vực. Gói GPU bắt đầu từ $506.35 mỗi thángCung cấp mất 60 giây; CUDA images được cài đặt sẵn trên các gói GPU. Cloudzy đã hoạt động độc lập từ năm 2008, phục vụ 122.000+ lập trình viên và đạt điểm 4.5 / 5 từ 719+ người đánh giá trên Trustpilot.
- Giá khởi điểm
- $506.35 / tháng
- Các loại GPU
- PRO 6000 · A100 · 5090 · 4090
- Cấp phát
- 60 giây
- Các vùng
- 13 trên toàn cầu
- Uptime SLA
- 99.95%
- Hoàn lại tiền
- 14 ngày
Lý do các nhà phát triển AI chọn Cloudzy
Một đám mây mà tàu AI.
Bốn lý do để chạy workload AI của bạn tại đây.
AMD EPYC + NVMe
GPU thế hệ mới nhất cho suy luận EPYC, NVMe để tải mô hình nhanh. GPU chuyên dụng qua PCI passthrough trên các gói GPU.
Hoàn tiền trong 14 ngày
Chạy thử nghiệm độ trễ inference thực tế trên Cloudzy. Nếu không đáp ứng SLO của bạn, hoàn tiền trong vòng 14 ngày.
99.95% thời gian hoạt động
AI production APIs cần một máy chủ không khởi động lại giữa giờ cao điểm. SLA 30 ngày gần nhất được công bố công khai tại status.cloudzy.com.
Kỹ sư trên chat
Gặp khó với phiên bản CUDA, lỗi NCCL, hay tinh chỉnh vLLM? Đội ngũ kỹ sư có kinh nghiệm với AI workload - phản hồi trong vài phút, không phải vài giờ.
Ngăn xếp AI
Dùng framework nào cũng được.
Nó chạy.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
Docker + nvidia-container-toolkit đã sẵn sàng trên các gói GPU
PyTorch
CPU và GPU
TensorFlow
CPU và GPU
vLLM
Phục vụ GPU LLM
Ollama
CPU + GPU LLMs
Hugging Face
Transformers · Diffusers
pgvector
Kho vector RAG
Qdrant
Cơ sở dữ liệu Vector
LangChain
Khung Agent
Trường hợp sử dụng
Nền tảng mà các nhóm AI tin dùng
Cloudzy.
Các backend RAG
Postgres + pgvector hoặc Qdrant trên một CPU VPS, thêm GPU nếu cần cho embedding/generation. NVMe giúp vector lookup luôn nhanh.
Thời gian chạy Agent
Các agent LangChain hoặc LlamaIndex chạy lâu dài, gọi đến các API của OpenAI/Anthropic và dữ liệu của bạn. IP tĩnh giúp việc gọi tool luôn ổn định.
Tạo ảnh / video
Stable Diffusion, SDXL, ComfyUI, các mô hình video trên GPU dòng RTX. NVMe cho phép bạn chuyển đổi mô hình trong vài giây, không phải vài phút.
Tinh chỉnh & huấn luyện mô hình
Tinh chỉnh LoRA / QLoRA trên GPU dòng RTX, huấn luyện toàn tham số trên GPU datacenter-class. CUDA, NCCL, PyTorch cài sẵn, dùng ngay.
Nhân viên nhúng
Chạy worker sentence-transformers trên CPU VPS với 16–32 GB RAM để nhúng vector hàng triệu tài liệu mà không phải trả phí theo từng lần gọi SaaS.
60s
Cấp phát
40 Gbps
Liên kết lên
Chỉ NVMe
Lưu trữ
13
Các vùng
99.95%
Uptime SLA
14 ngày
Hoàn lại tiền
Mạng toàn cầu
13 khu vực. Bốn châu lục.
Độ trễ suy luận? Đã được giải quyết.
Đặt AI API gần với người dùng của bạn. Kết hợp một gateway CPU ở một khu vực với một máy chủ GPU ở khu vực khác.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
Định giá
Các gói GPU nổi bật. Hàng giờ hoặc hàng năm.
Thanh toán hàng năm hiện đang Giảm 35% trên mọi gói GPU.
Phổ biến nhất
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
Triển khai ngay Hoàn tiền trong 14 ngày
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA được cài đặt sẵn
Các câu hỏi thường gặp. AI VPS
Câu hỏi thường gặp, câu trả lời thẳng thắn.
AI VPS là gì?
VPS AI là máy chủ đám mây Linux được trang bị cấu hình phù hợp cho các tác vụ AI, với RAM lớn và nhân EPYC cho suy luận CPU và RAG, hoặc GPU dòng NVIDIA cho việc huấn luyện và phục vụ mô hình lớn. Bạn kết nối qua SSH, cài đặt môi trường làm việc và chạy ngay. Cùng một VPS nhưng có nhiều cấu hình khác nhau phù hợp với từng nhu cầu cụ thể.
Tôi có cần GPU không, hay CPU cũng được?
CPU có thể xử lý mô hình lượng tử hóa nhỏ, tìm kiếm vector và tác vụ AI nhẹ. Chọn GPU để suy luận nhanh hơn, chạy mô hình lớn hơn hoặc huấn luyện. Lựa chọn phụ thuộc vào mô hình, lưu lượng và yêu cầu thời gian phản hồi.
Tôi có thể chạy inference API phía sau một load balancer không?
Được. Chạy vLLM, TGI, hoặc dịch vụ FastAPI của riêng bạn trên máy chủ GPU, đặt một VPS CPU nhỏ phía trước làm API gateway và rate limiter. Cả hai chia sẻ mạng riêng trong cùng một region. Băng thông 40 Gbps đảm bảo gateway không bao giờ là điểm nghẽn cổ chai.
Tôi có thể host backend RAG không?
Có. VPS CPU có thể chạy ứng dụng RAG và cơ sở dữ liệu vector như PostgreSQL với pgvector hoặc Qdrant. Kết nối với LLM được lưu trữ hoặc VPS GPU để tạo câu trả lời. Nhu cầu RAM và lưu trữ phụ thuộc vào tập dữ liệu, mô hình và lưu lượng của bạn.
Những framework AI nào được hỗ trợ?
Tất cả đều được hỗ trợ. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX (trên phần cứng phù hợp), Hugging Face Transformers, cài đặt qua conda, pip, hoặc Docker. Các gói CUDA được cài sẵn trên các gói GPU, toàn quyền root trên mọi gói dịch vụ.
Các GPU có phải dùng chung không?
Không. Các gói GPU sử dụng PCI passthrough, GPU bạn thuê được dành riêng cho VM của bạn, toàn bộ bộ nhớ và toàn bộ xung nhịp. CUDA, NVENC, NCCL hoạt động hoàn toàn giống như trên máy bare-metal. RTX-class phù hợp cho inference tiết kiệm chi phí, datacenter-class dành cho training hiệu năng cao.
Tôi cần bao nhiêu VRAM?
Nhu cầu VRAM phụ thuộc vào kích thước mô hình, độ chính xác, độ dài ngữ cảnh và số yêu cầu đồng thời. Mô hình 7B ở 4-bit có thể vừa 8 GB khi suy luận; mô hình 70B cần khoảng 35 GB chỉ cho trọng số, cộng thêm bộ nhớ khi chạy. Huấn luyện cần nhiều bộ nhớ hơn, nên kiểm tra yêu cầu mô hình trước khi chọn gói.
Có đảm bảo hoàn tiền không?
Có, trong vòng 14 ngày kể từ ngày mua, hoàn tiền toàn bộ, không cần giải thích. Chạy thử inference latency thực tế, benchmark RAG thực tế, và tự đánh giá xem Cloudzy có phù hợp không trước khi cam kết cả năm.
Cấp phát nhanh thế nào?
Sau khi thanh toán được xác nhận, AI VPS của bạn sẽ hoạt động trong vòng 60 giây. CPU hoặc GPU. Các gói GPU đi kèm image CUDA được cài sẵn, chạy `nvidia-smi` là có kết quả ngay. Các gói CPU được cài sẵn Ubuntu LTS hoặc Debian, bạn có thể cài AI stack qua conda hoặc pip trong vài phút.
Tôi có thể chạy tác vụ AI trong môi trường production trên VPS GPU Cloudzy không?
Có. Chọn gói có đủ VRAM, CPU và RAM cho tác vụ, rồi kiểm thử hiệu năng với lưu lượng dự kiến. Thiết lập bảo mật, giám sát và sao lưu; dùng nhiều máy chủ nếu cần tính sẵn sàng cao.
Sẵn sàng khi bạn cần.
AI VPS trong 60 giây.
Chọn cấu hình phù hợp với workload của bạn. CPU dành cho inference / RAG; GPU dành cho training. Cùng một bảng điều khiển.
Không cần thẻ tín dụng · Hoàn tiền trong 14 ngày · Hủy bất cứ lúc nào