LLM 추론 API
OpenAI 호환 엔드포인트로 7B~70B급 양자화 LLM를 직접 서빙하세요. GPU에서 vLLM 또는 TGI를, 대용량 CPU에서 llama.cpp / Ollama를 운용할 수 있습니다. 고객에게 토큰 단위로 청구하세요.
AI VPS 호스팅
AI 워크로드,
원하는 방식으로 선택하세요.
추론 / RAG를 위한 고성능 CPU, 또는 학습을 위한 NVIDIA급 GPU, 동일한 VPS 패널로 관리하세요.
NVMe + 40 Gbps 네트워킹. 2008년부터 독립 클라우드.
시작 가격 $506.35/mo · 연간 결제 시 35% 할인 · 신용카드 불필요
~ ssh root@ai-nyc-001 연결됨
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Installing Ollama runtime... done
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
pulling manifest · downloading 4.7 GB to NVMe
model ready · CPU inference starting
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"Hello! How can I help you today?"}
root@ai-nyc-001:~# _
AI VPS 한눈에 보기
Cloudzy offers AI VPS hosting on dedicated NVIDIA급 대규모 모델 학습 및 서빙을 위한 GPU 플랜입니다. 플랜은 AMD EPYC, NVMe 스토리지, 와 40 Gbps 업링크 전역 13개 리전. GPU 요금제는 $506.35 월; 프로비저닝 소요 시간은 60초; CUDA 이미지는 GPU 플랜에 사전 설치되어 있습니다. Cloudzy는 2008년부터 독립적으로 운영되어 왔으며, 122,000명 이상의 개발자에게 서비스를 제공하고, Trustpilot에서 719명 이상의 리뷰어로부터 4.5 / 5 평점을 받았습니다.
- 시작 가격
- $506.35 / 월
- GPU 유형
- PRO 6000 · A100 · 5090 · 4090
- 프로비저닝
- 60초
- 지역
- 전 세계 13개
- 가동시간 SLA
- 99.95%
- 환불 보장
- 14일
AI 개발자들이 Cloudzy를 선택하는 이유
AI를 바로 배포하는 클라우드.
이 곳에서 AI 워크로드를 실행해야 하는 네 가지 이유.
AMD EPYC + NVMe
최신 EPYC로 CPU 추론을, NVMe로 빠른 모델 로드를 지원합니다. GPU 플랜에서는 PCI passthrough를 통해 전용 GPU를 사용할 수 있습니다.
14일 환불 보장
Cloudzy에서 실제 추론 레이턴시를 직접 테스트해보세요. SLO를 충족하지 못하면 14일 이내에 환불해 드립니다.
99.95% 업타임
프로덕션 AI API에는 트래픽이 몰리는 시간에 재부팅되지 않는 호스트가 필요합니다. 최근 30일 SLA는 status.cloudzy.com에서 공개적으로 확인할 수 있습니다.
채팅의 엔지니어
CUDA 버전, NCCL 오류, vLLM 튜닝 문제로 막혔나요? AI 워크로드 경험이 있는 엔지니어가 몇 시간이 아닌 몇 분 안에 응답합니다.
AI 스택
어떤 프레임워크든 가져오세요.
그냥 실행됩니다.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang, all run cleanly. Pre-baked CUDA images on GPU plans skip the driver dance. CPU plans handle quantized inference and embedding workers cheaply.
GPU 플랜에서 Docker + nvidia-container-toolkit 바로 사용 가능
PyTorch
CPU 및 GPU
TensorFlow
CPU 및 GPU
vLLM
GPU LLM 서빙
Ollama
CPU + GPU LLM
Hugging Face
Transformers · Diffusers
pgvector
RAG 벡터 스토어
Qdrant
Vector DB
LangChain
에이전트 프레임워크
사용 사례
AI 팀이 실제로 쓰는 인프라
Cloudzy.
RAG 백엔드
CPU VPS에서 Postgres + pgvector 또는 Qdrant를 운용하고, 임베딩·생성용 GPU 서버를 선택적으로 추가하세요. NVMe 덕분에 벡터 조회 속도가 빠르게 유지됩니다.
에이전트 런타임
OpenAI/Anthropic API와 자체 데이터를 활용하는 장기 실행 LangChain 또는 LlamaIndex 에이전트. 정적 IP로 툴 호출이 안정적으로 유지됩니다.
이미지·영상 생성
RTX급 GPU에서 Stable Diffusion, SDXL, ComfyUI, 영상 모델을 실행하세요. NVMe로 모델 교체를 수 분이 아닌 수 초 만에 처리할 수 있습니다.
파인튜닝 및 학습
RTX급 서버에서 LoRA / QLoRA 파인튜닝을, 데이터센터급 GPU에서 전체 파라미터 학습을 진행하세요. CUDA, NCCL, PyTorch가 사전 구성되어 있습니다.
임베딩 워커
16~32 GB CPU VPS에서 sentence-transformers 워커를 실행해 수백만 건의 문서를 임베딩하세요. API 호출당 요금 없이 처리할 수 있습니다.
60s
프로비저닝
40 Gbps
업링크
NVMe 전용
스토리지
13
지역
99.95%
가동시간 SLA
14일
환불 보장
글로벌 네트워크
13개 리전. 4개 대륙.
추론 지연, 해결했습니다.
AI API를 고객 가까이 배치하세요. 한 리전에는 CPU 게이트웨이를, 다른 리전에는 GPU 서버를 함께 운용하세요.
us-utah-1us-dal-1us-lax-1us-lvg-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1
요금제
주요 GPU 플랜. 시간당 또는 연간.
연간 결제 시 현재 35% 할인 모든 GPU 플랜에 적용됩니다.
가장 인기
1× RTX PRO 6000 Blackwell
96 GB GDDR7 ECC VRAM
$845 /mo
$1300/mo -35%
지금 배포 14일 환불 보장
- 200 GB DDR5
- 24 vCPU
- 1.3 TB NVMe NVMe
- 20 TB · 40 Gbps
- CUDA 사전 설치됨
자주 묻는 질문. AI VPS
자주 묻는 질문, 명확한 답변.
AI VPS란 무엇인가요?
AI VPS는 AI 워크로드에 맞게 구성된 Linux 클라우드 서버입니다. CPU 추론과 RAG에는 고성능 RAM와 EPYC 코어를, 학습 및 대형 모델 서빙에는 NVIDIA급 GPU를 사용합니다. 접속해서 스택을 설치하고 바로 실행하면 됩니다. 동일한 VPS, 용도에 따라 다양한 구성을 선택하세요.
GPU가 필요한가요, 아니면 CPU로 충분한가요?
CPU도 작은 양자화 모델, 벡터 검색, 가벼운 AI 작업을 처리할 수 있습니다. 더 빠른 추론, 더 큰 모델 또는 학습에는 GPU를 선택하세요. 적절한 선택은 모델, 트래픽, 필요한 응답 시간에 따라 달라집니다.
로드 밸런서 뒤에 추론 API를 운영할 수 있나요?
네. GPU 서버에서 vLLM, TGI, 또는 직접 만든 FastAPI 서비스를 실행하고, 소규모 CPU VPS를 API 게이트웨이 및 속도 제한기로 앞단에 배치하면 됩니다. 두 서버는 같은 리전 내 프라이빗 네트워크를 공유합니다. 40 Gbps 대역폭 덕분에 게이트웨이가 병목이 되는 일은 없습니다.
RAG 백엔드를 호스팅할 수 있나요?
네. CPU VPS에서 RAG 애플리케이션과 pgvector를 사용하는 PostgreSQL 또는 Qdrant 같은 벡터 데이터베이스를 실행할 수 있습니다. 생성을 위해 호스팅된 LLM이나 GPU VPS에 연결하세요. 필요한 RAM과 스토리지는 데이터셋, 모델, 트래픽에 따라 달라집니다.
어떤 AI 프레임워크를 지원하나요?
모두 지원합니다. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX(해당 하드웨어 기준), Hugging Face Transformers 등 conda, pip, 또는 Docker로 설치하면 됩니다. GPU 플랜에는 CUDA 이미지가 미리 구성되어 있으며, 모든 플랜에서 root 전체 권한을 제공합니다.
GPU는 공유 자원인가요?
아닙니다. GPU 플랜은 PCI 패스스루 방식을 사용하므로, 예약한 GPU는 VM에 전용으로 할당됩니다. 전체 메모리와 전체 클록 속도를 그대로 사용할 수 있습니다. CUDA, NVENC, NCCL 모두 베어메탈과 동일하게 작동합니다. RTX급은 비용 효율적인 추론에, 데이터센터급은 고성능 학습에 적합합니다.
VRAM는 얼마나 필요한가요?
필요한 VRAM은 모델 크기, 정밀도, 컨텍스트 길이, 동시 요청 수에 따라 달라집니다. 4비트 7B 모델은 추론 시 8 GB에 들어갈 수 있지만, 70B 모델은 가중치만 약 35 GB가 필요하며 실행 중 메모리도 추가로 필요합니다. 학습에는 더 많은 메모리가 필요하므로 요금제를 선택하기 전에 모델 요구 사항을 확인하세요.
환불 보장이 있나요?
구매 후 14일 이내에 전액 환불됩니다. 별도 질문 없이 처리됩니다. 연간 플랜을 결정하기 전에 실제 추론 지연 테스트와 RAG 벤치마크를 직접 실행해 Cloudzy가 적합한지 확인해 보세요.
프로비저닝은 얼마나 빠른가요?
결제가 확인되면 AI VPS가 60초 안에 준비됩니다. CPU와 GPU 모두 동일합니다. GPU 플랜은 CUDA 이미지가 미리 구성되어 있어 `nvidia-smi`가 수 초 내에 응답합니다. CPU 플랜은 Ubuntu LTS 또는 Debian가 기본 제공되며, conda 또는 pip로 AI 스택을 몇 분 안에 설치할 수 있습니다.
Cloudzy GPU VPS에서 프로덕션 AI 워크로드를 실행할 수 있나요?
네. 워크로드에 충분한 VRAM, CPU, RAM을 갖춘 요금제를 선택하고 예상 트래픽에서 성능을 테스트하세요. 보안, 모니터링, 백업을 설정하고 고가용성이 필요하면 여러 인스턴스를 사용하세요.
언제든 준비되어 있습니다.
60초 만에 AI VPS 시작.
워크로드에 맞는 사양을 선택하세요. 추론 / RAG에는 CPU, 트레이닝에는 GPU. 동일한 패널에서 관리합니다.
신용카드 불필요 · 14일 환불 보장 · 언제든 취소 가능