LLM 추론 API
OpenAI 호환 엔드포인트로 7B~70B급 양자화 LLM를 직접 서빙하세요. GPU에서 vLLM 또는 TGI를, 대용량 CPU에서 llama.cpp / Ollama를 운용할 수 있습니다. 고객에게 토큰 단위로 청구하세요.
AI VPS 호스팅
AI 워크로드,
원하는 방식으로 선택하세요.
추론 / RAG를 위한 고성능 CPU, 또는 학습을 위한 NVIDIA급 GPU, 동일한 VPS 패널로 관리하세요.
독립 클라우드, 2008년부터. 월 $2.48부터 · root SSH, 60초 안에.
CPU, 시작 가격 $2.48/mo · GPU 플랜 제공 중 가격 정책 · 14일 환불 보장
~ ssh root@ai-nyc-001
연결됨
root@ai-nyc-001:~# curl -fsSL https://ollama.com/install.sh | sh
Ollama 런타임 설치 중... 완료
root@ai-nyc-001:~# ollama run llama3.1:8b-instruct-q4
매니페스트 가져오는 중 · NVMe에 4.7 GB 다운로드 중
모델 준비 완료 · CPU 추론 시작
root@ai-nyc-001:~# curl localhost:11434/api/generate -d '...'
{"response":"안녕하세요! 무엇을 도와드릴까요?"}
root@ai-nyc-001:~# _
AI VPS 한눈에 보기
Cloudzy AI VPS 호스팅을 두 가지 형태로 제공합니다. 양자화된 LLM 추론, RAG, 파이프라인을 위한 고성능 CPU 플랜과 NVIDIA급 대규모 모델 학습 및 서빙을 위한 GPU 플랜입니다. 플랜은 AMD EPYC, NVMe 스토리지, 그리고 40 Gbps 업링크 제공, 전 세계 12개 리전. CPU 시작 가격은 $2.48 per month; 프로비저닝 소요 시간은 60초; CUDA 이미지는 GPU 플랜에 사전 설치되어 있습니다. Cloudzy는 2008년부터 독립적으로 운영되어 왔으며, 122,000명 이상의 개발자, 평점은 4.6 / 5 by 728+ reviewers Trustpilot에서.
- 부터 CPU 운영 중
- $2.48 / month
- GPU 유형
- RTX · Pro
- 프로비저닝
- 60초
- 지역
- 전 세계 12개 지역
- 업타임 SLA
- 99.95%
- 환불 보장
- 14일
AI 개발자들이 Cloudzy를 선택하는 이유
AI를 바로 배포하는 클라우드.
이 곳에서 AI 워크로드를 실행해야 하는 네 가지 이유.
AMD EPYC + NVMe
최신 EPYC로 CPU 추론을, NVMe로 빠른 모델 로드를 지원합니다. GPU 플랜에서는 PCI passthrough를 통해 전용 GPU를 사용할 수 있습니다.
14일 환불 보장
Cloudzy에서 실제 추론 레이턴시를 직접 테스트해보세요. SLO를 충족하지 못하면 14일 이내에 환불해 드립니다.
99.95% 업타임
프로덕션 AI API에는 트래픽이 몰리는 시간에 재부팅되지 않는 호스트가 필요합니다. 최근 30일 SLA는 status.cloudzy.com에서 공개적으로 확인할 수 있습니다.
채팅으로 연결되는 엔지니어
CUDA 버전, NCCL 오류, vLLM 튜닝 문제로 막혔나요? AI 워크로드 경험이 있는 엔지니어가 몇 시간이 아닌 몇 분 안에 응답합니다.
AI 스택
어떤 프레임워크든 가져오세요.
그냥 실행됩니다.
PyTorch, TensorFlow, JAX, vLLM, TGI, Ollama, llama.cpp, sglang 모두 정상적으로 동작합니다. GPU 플랜의 사전 구성된 CUDA 이미지를 사용하면 드라이버 설정 과정을 건너뛸 수 있습니다. CPU 플랜은 양자화 추론과 임베딩 워커를 저렴하게 처리합니다.
GPU 플랜에서 Docker + nvidia-container-toolkit 바로 사용 가능
PyTorch
CPU 및 GPU
TensorFlow
CPU 및 GPU
vLLM
GPU LLM 서빙
Ollama
CPU + GPU LLM
Hugging Face
Transformers · Diffusers
pgvector
RAG 벡터 스토어
Qdrant
Vector DB
LangChain
에이전트 프레임워크
활용 사례
AI 팀이 실제로 쓰는 인프라
Cloudzy.
RAG 백엔드
CPU VPS에서 Postgres + pgvector 또는 Qdrant를 운용하고, 임베딩·생성용 GPU 서버를 선택적으로 추가하세요. NVMe 덕분에 벡터 조회 속도가 빠르게 유지됩니다.
에이전트 런타임
OpenAI/Anthropic API와 자체 데이터를 활용하는 장기 실행 LangChain 또는 LlamaIndex 에이전트. 정적 IP로 툴 호출이 안정적으로 유지됩니다.
이미지·영상 생성
RTX급 GPU에서 Stable Diffusion, SDXL, ComfyUI, 영상 모델을 실행하세요. NVMe로 모델 교체를 수 분이 아닌 수 초 만에 처리할 수 있습니다.
파인튜닝 및 학습
RTX급 서버에서 LoRA / QLoRA 파인튜닝을, 데이터센터급 GPU에서 전체 파라미터 학습을 진행하세요. CUDA, NCCL, PyTorch가 사전 구성되어 있습니다.
임베딩 워커
16~32 GB CPU VPS에서 sentence-transformers 워커를 실행해 수백만 건의 문서를 임베딩하세요. API 호출당 요금 없이 처리할 수 있습니다.
60s
프로비저닝
40 Gbps
업링크
NVMe 전용
스토리지
12
지역
99.95%
업타임 SLA
14일
환불 보장
글로벌 네트워크
12개 리전. 4개 대륙.
추론 지연, 해결했습니다.
AI API를 고객 가까이 배치하세요. 한 리전에는 CPU 게이트웨이를, 다른 리전에는 GPU 서버를 함께 운용하세요.
us-utah-1us-dal-1us-lax-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-zrh-1me-dxb-1ap-sgp-1ap-tyo-1
CPU AI 플랜
양자화 LLM · RAG · 임베딩. CPU로 충분합니다.
AI 워크로드 중 상당수는 CPU만으로도 처리됩니다. 시간 단위 청구 · 전 플랜 50% 할인 · GPU 플랜은 별도 페이지에서 확인하세요 /pricing.
가장 인기 있는
4 GB DDR5
Quantized 7B 추론 · CPU
$14.47 /월
$28.95/mo −50%
지금 배포하기
14일 환불 보장
- 2 vCPU @ EPYC
- 120 GB NVMe
- 5 TB · 40 Gbps
- Ollama / vLLM CPU
- 루트 SSH · KVM
12 GB DDR5
RAG 백엔드 · 벡터 DB · 임베딩
$34.98 /월
$69.95/mo −50%
지금 배포하기
14일 환불 보장
- 4 vCPU @ EPYC
- 300 GB NVMe
- 8 TB · 40 Gbps
- Ollama / vLLM CPU
- 루트 SSH · KVM
16 GB DDR5
중간 규모 CPU 추론 · API 게이트웨이
$49.98 /월
$99.95/mo −50%
지금 배포하기
14일 환불 보장
- 8 vCPU @ EPYC
- 350 GB NVMe
- 10 TB · 40 Gbps
- Ollama / vLLM CPU
- 루트 SSH · KVM
가장 인기 있는
24 GB DDR5
대규모 RAM CPU · 에이전트 · 파이프라인
$69.97 /월
$139.95/mo −50%
지금 배포하기
14일 환불 보장
- 8 vCPU @ EPYC
- 450 GB NVMe
- 12 TB · 40 Gbps
- Ollama / vLLM CPU
- 루트 SSH · KVM
자주 묻는 질문. AI VPS
자주 묻는 질문, 명확한 답변.
AI VPS란 무엇인가요?
AI VPS는 AI 워크로드에 맞게 구성된 Linux 클라우드 서버입니다. CPU 추론과 RAG에는 고성능 RAM와 EPYC 코어를, 학습 및 대형 모델 서빙에는 NVIDIA급 GPU를 사용합니다. 접속해서 스택을 설치하고 바로 실행하면 됩니다. 동일한 VPS, 용도에 따라 다양한 구성을 선택하세요.
GPU가 필요한가요, 아니면 CPU로 충분한가요?
모델에 따라 다릅니다. Quantized 7B급 LLM(llama.cpp 또는 Ollama를 통한 int4 / int8)는 16~32 GB CPU 플랜에서도 실용적으로 동작합니다. 임베딩 모델, 벡터 데이터베이스(Qdrant, Weaviate, pgvector), RAG 파이프라인은 대부분 CPU 의존적입니다. 학습, 대형 모델 서빙, 처리량이 많은 작업에는 GPU 플랜을 선택하세요.
로드 밸런서 뒤에 추론 API를 운영할 수 있나요?
네. GPU 서버에서 vLLM, TGI, 또는 직접 만든 FastAPI 서비스를 실행하고, 소규모 CPU VPS를 API 게이트웨이 및 속도 제한기로 앞단에 배치하면 됩니다. 두 서버는 같은 리전 내 프라이빗 네트워크를 공유합니다. 40 Gbps 대역폭 덕분에 게이트웨이가 병목이 되는 일은 없습니다.
RAG 백엔드를 호스팅할 수 있나요?
네. 가장 흔한 구성 중 하나입니다. 16~32 GB CPU VPS에서 Postgres + pgvector 또는 Qdrant를 저렴하게 실행하고, 생성 단계에서는 GPU VPS나 호스팅된 LLM를 호출하는 방식입니다. NVMe는 벡터 쿼리를 빠르게 처리하고, EPYC는 배치 임베딩 연산을 담당합니다.
어떤 AI 프레임워크를 지원하나요?
모두 지원합니다. PyTorch, TensorFlow, JAX, ONNX, llama.cpp, Ollama, vLLM, TGI, sglang, MLX(해당 하드웨어 기준), Hugging Face Transformers 등 conda, pip, 또는 Docker로 설치하면 됩니다. GPU 플랜에는 CUDA 이미지가 미리 구성되어 있으며, 모든 플랜에서 root 전체 권한을 제공합니다.
GPU는 공유 자원인가요?
아닙니다. GPU 플랜은 PCI 패스스루 방식을 사용하므로, 예약한 GPU는 VM에 전용으로 할당됩니다. 전체 메모리와 전체 클록 속도를 그대로 사용할 수 있습니다. CUDA, NVENC, NCCL 모두 베어메탈과 동일하게 작동합니다. RTX급은 비용 효율적인 추론에, 데이터센터급은 고성능 학습에 적합합니다.
VRAM는 얼마나 필요한가요?
8 GB for SDXL or 7B-class LLMs at int4. 24 GB for 13B at fp16 or 70B at int4. 40+ GB for fp16 70B and full-precision training. Match the GPU plan to your model size, quantization changes the math, so test before committing to a tier.
환불 보장이 있나요?
구매 후 14일 이내에 전액 환불됩니다. 별도 질문 없이 처리됩니다. 연간 플랜을 결정하기 전에 실제 추론 지연 테스트와 RAG 벤치마크를 직접 실행해 Cloudzy가 적합한지 확인해 보세요.
프로비저닝 속도는 얼마나 빠른가요?
결제가 확인되면 AI VPS가 60초 안에 준비됩니다. CPU와 GPU 모두 동일합니다. GPU 플랜은 CUDA 이미지가 미리 구성되어 있어 `nvidia-smi`가 수 초 내에 응답합니다. CPU 플랜은 Ubuntu LTS 또는 Debian가 기본 제공되며, conda 또는 pip로 AI 스택을 몇 분 안에 설치할 수 있습니다.
프로덕션 환경에서 사용할 수 있나요?
예. 가동 시간 99.95% SLA, 시간 단위 청구, 약정 없음, 전용 IP, 그리고 재구축 없이 RAM/vCPU/스토리지를 실시간으로 조정하는 옵션까지 제공합니다. 많은 고객들이 Cloudzy에서 AI 추론 및 RAG API를 프로덕션 환경에서 운영하고 있습니다.
준비되셨나요?
60초 만에 AI VPS 시작.
워크로드에 맞는 사양을 선택하세요. 추론 / RAG에는 CPU, 트레이닝에는 GPU. 동일한 패널에서 관리합니다.
신용카드 불필요 · 14일 환불 보장 · 언제든지 취소 가능