скидка 50% все планы, ограниченное время. Начиная от $2.48/mo

Сервер графического процессора глубокого обучения

Обучайте модели на
выделенные графические процессоры.

NVIDIA A100, RTX 5090 и RTX 4090, полная сквозная передача PCI, не используется совместно.
NVMe-хранилище для быстрой загрузки данных. Независимое облако с 2008 года.
Более 122 000 пользователей доверяют Cloudzy. Возврат денег в течение 14 дней, без вопросов.

4.6 · 706 reviews on Trustpilot

Начиная от $14.47/mo · скидка 50% · без кредитной карты

~ ssh root@vps-001 подключен
$ ssh root@gpu-srv-001
Добро пожаловать в Ubuntu 24.04 LTS (CUDA 12.4)
root@gpu-srv-001:~$ nvidia-smi --query-gpu=name,memory.total --format=csv
имя, память.всего [МиБ]
NVIDIA A100-SXM4-80 ГБ, 81920 МБ
root@gpu-srv-001:~$ python3 -c "импортировать факел; распечатать(torch.cuda.is_available())"
Истинный
root@gpu-srv-001:~$ torchrun --nproc_per_node=1 train.py --epochs 50
Эпоха 1/50 | Потеря: 0,4821 | LR: 1e-4

Краткий обзор сервера Deep Learning GPU

Cloudzy GPU-серверы глубокого обучения используйте графические процессоры NVIDIA A100, RTX 5090 и RTX 4090 с полной пропускной способностью PCI. AMD EPYC процессоры, NVMe хранилище, DDR5 память, и 40 Gbps аплинки в 12 регионов. Планы ЦП начинаются с $2.48/mo; Планы графических процессоров доступны на странице цен. Cloudzy служил 122,000+ пользователей с тех пор 2008, рейтинг 4.6/5 на Trustpilot. 14 дней возврат денег по всем планам.

Начальная цена
$2,48 / мес.
Обеспечение
60 секунд
Регионы
12 по всему миру
SLA по аптайму
99.95%
Возврат денег
14 дней
Основан
2008

Почему разработчики выбирают Cloudzy

Технически подкованный любимый.

Четыре вещи, по которым нас действительно сравнивают, сделаны как надо.

Высокопроизводительная инфраструктура

AMD EPYC последнего поколения, только NVMe-хранилище, память DDR5, аплинки 40 Gbps. Лидерство в одноядерной производительности на каждом уровне планов.

Пробный период без риска

Гарантия возврата денег в течение 14 дней на каждом плане. Без вопросов. Без платы за подключение. Отмена в любой момент из панели.

SLA по аптайму 99,95%

Автоматический мониторинг в 12 регионах. Наш SLA за последние 30 дней публично отслеживается на status.cloudzy.com. Ничего не скрываем.

Поддержка людей 24/7

Ответы в чате и тикетах обычно менее 5 минут. Инженеры, а не операторы по скрипту. Медианное время решения менее 1 часа.

Сценарии использования

Почему разработчики выбирают
Сервер глубокого обучения Cloudzy с графическим процессором.

Модельное обучение

Обучайте CNN, преобразователи и модели диффузии на выделенных графических процессорах NVIDIA. Полный доступ к CUDA, NVMe для быстрой загрузки данных, NCCL для обучения с несколькими графическими процессорами.

Точная настройка LLM

Точная настройка Llama, Mistral или Gemma на A100 или RTX 5090. QLoRA на 24 ГБ видеопамяти, полная точная настройка на 80 ГБ. NVMe обрабатывает запись контрольных точек без остановки обучения.

Обслуживание выводов

Обслуживайте модели через vLLM, TGI или Triton на выделенных GPU. Сквозное соединение PCI означает полную видеопамять и полную тактовую частоту, такую ​​же производительность, как и на «голом железе».

Компьютерное зрение

Обнаружение объектов, сегментация, генерация изображений. OpenCV с графическим ускорением, YOLO, Stable Diffusion. NVMe поддерживает подачу обучающих данных без узких мест.

Исследования и прототипирование

Блокноты Jupyter, отслеживание экспериментов, анализ гиперпараметров. Раскручивайте серверы с графическим процессором, проводите эксперименты, сносите. 14-дневный возврат денег означает низкий риск в новых проектах.

Предварительная обработка данных

RAPIDS, cuDF, cuML. GPU-ускоренная обработка данных для больших наборов данных. Очистите, преобразуйте и определите характеристики данных перед обучением. Чтения NVMe поддерживают высокий уровень использования GPU.

60s
Обеспечение
40 Gbps
восходящая линия связи
только NVMe
Хранилище
12
Регионы
99.95%
SLA по аптайму
14 дней
Возврат денег

Глобальная сеть

12 регионов. Четыре континента.
В один клик.

Расположите свой сервер Deep Learning GPU как можно ближе к пользователям, насколько это позволяет физика. Медианная задержка P50 менее 10 мс в Северной Америке и Европе.

us-utah-1us-dal-1us-lax-1us-nyc-1us-mia-1eu-ams-1eu-lon-1eu-fra-1eu-brn-1me-dxb-1ap-sgp-1ap-syd-1

Цены

Платите только за использованное. Вот и всё.

Почасовая, помесячная или годовая. Без платы за исходящий трафик. Без обязательств. Сейчас скидка 50% все планы.

8 GB DDR5

Конвейеры обучающих данных · предварительная обработка

$26.475 /мес.
$52.95/mo −50%
Развернуть сейчас
Возврат в течение 14 дней
  • 4 vCPU @ EPYC
  • 240 GB NVMe
  • 7 TB · 40 Gbps
  • Выделенные IPv4 + IPv6
  • Root SSH · KVM
16 GB DDR5

Координация работы нескольких графических процессоров · обслуживание моделей

$49.98 /мес.
$99.95/mo −50%
Развернуть сейчас
Возврат в течение 14 дней
  • 8 vCPU @ EPYC
  • 350 GB NVMe
  • 10 TB · 40 Gbps
  • Выделенные IPv4 + IPv6
  • Root SSH · KVM
32 GB DDR5

Масштабное обучение · распределенные вычисления

$109.975 /мес.
$219.95/mo −50%
Развернуть сейчас
Возврат в течение 14 дней
  • 12 vCPU @ EPYC
  • 750 GB NVMe
  • 12 TB · 40 Gbps
  • Выделенные IPv4 + IPv6
  • Root SSH · KVM

Часто задаваемые вопросы — GPU-сервер глубокого обучения

Частые вопросы, прямые ответы.

Какие графические процессоры доступны?

NVIDIA A100 (1x, 2x, 4x), RTX 5090 (1x, 2x) и RTX 4090 (1x, 2x, 4x). Все используют сквозной порт PCI, GPU предназначен для вашей виртуальной машины, а не является общим. Полная видеопамять, полная тактовая частота, полный доступ к CUDA. Подробную информацию о текущем плане GPU и его доступности см. на странице цен.

Графические процессоры являются общими или выделенными?

Преданный. Сквозное соединение PCI предоставляет вашей виртуальной машине эксклюзивный доступ к физическому графическому процессору. CUDA, NVENC, NCCL ведут себя точно так же, как «голый металл». Никакого разделения времени, никакого разделения MIG, никаких затрат на виртуализацию самого графического процессора.

Какая версия CUDA доступна?

GPU планирует поставляться с предварительно настроенными образами CUDA, в настоящее время CUDA 12.x на Ubuntu LTS. Вы можете установить любую нужную вам версию CUDA, поскольку у вас есть полный root-доступ. PyTorch, TensorFlow, JAX и другие платформы устанавливаются как обычно через pip или conda.

Сколько видеопамяти мне нужно для глубокого обучения?

Зависит от вашей модели. Точная настройка LLM 7B с помощью QLoRA умещается в 24 ГБ. Для полной настройки модели 7B требуется 40+ ГБ. Для обучения с нуля на больших моделях или выполнения вывода fp16 70B требуется 80 ГБ (A100). Сопоставьте план графического процессора с объемом памяти вашей модели.

Могу ли я провести обучение на нескольких графических процессорах?

Да. Планы с 2 или 4 GPU поддерживают NCCL для распределенного обучения. PyTorch DDP, DeepSpeed, FSDP — все работают как положено. Хранилище NVMe обрабатывает сохранение контрольных точек, не останавливая цикл обучения.

Существует ли гарантия возврата денег за планы использования графических процессоров?

Да, 14 дней, полный возврат средств, без вопросов. Запустите фактическую учебную работу, проверьте свой конвейер вывода. Если сервер GPU не соответствует вашим потребностям, вы вернете свои деньги.

Насколько быстро происходит развёртывание?

60 секунд с момента подтверждения оплаты. GPU планирует загрузку с предварительно настроенным образом CUDA, nvidia-smi немедленно возвращается. Установите свою платформу и начните обучение за считанные минуты, а не часы.

Могу ли я использовать их для вывода в производстве?

Да. Выделенный GPU, SLA в течение 99,95 % времени безотказной работы, выделенный IPv4. Запустите vLLM, Triton или собственный сервер вывода за балансировщиком нагрузки. Сеть со скоростью 40 Гбит/с обрабатывает трафик вывода с высокой пропускной способностью.

Получу ли я также CPU и хранилище?

Да. Планы графических процессоров включают процессоры AMD EPYC (12–64 виртуальных ЦП в зависимости от плана), RAM DDR5 (48–768 ГБ) и хранилище NVMe (от 500 ГБ до 6 ТБ). ЦП выполняет предварительную обработку данных, пока GPU тренируется. NVMe обеспечивает быструю загрузку данных.

Как цены сравниваются с ценами поставщиков облачных графических процессоров?

В планах Cloudzy GPU используется выделенное оборудование без затрат на разделение времени. Цены указаны на странице цен, прозрачные ежемесячные и годовые тарифы без каких-либо скрытых затрат на компьютерные часы. 14-дневный возврат денег позволит вам протестировать продукт перед совершением сделки.

Выделенные графические процессоры уже готовы.
Развёртывание за 60 секунд.

Без кредитной карты · возврат денег в течение 14 дней · отмена в любой момент