10 из 15 конфигураций серверов в наличииМгновенная выдачаБез платы за установку

2 GPU-сервера · в наличии: 1

GPU-серверы NVIDIA для ИИ и рендеринга

Целый GPU NVIDIA, который вы ни с кем не делите, на хосте EPYC с памятью ECC и NVMe: для инференса, дообучения, Stable Diffusion, рендеринга и аппаратного кодирования видео.

  • От $435/мес.
  • Готово к развертыванию: 1 из 2
  • 5 локаций
  • Без платы за установку
Dex несет большую видеокарту

Линейка GPU-серверов

Выберите GPU-сервер

Наличие в реальном времени и одна цена в месяц. Откройте сервер, чтобы увидеть полные характеристики, или сразу разверните его.

Цены за месяц, без НДС. Одинаковая цена во всех локациях, где доступен сервер.

Сравнить GPU-серверы между собой

Для каких задач

GPU NVIDIA для ИИ, рендеринга и транскодирования

  • Инференс LLM на vLLM, Ollama или llama.cpp
  • Дообучение с LoRA и QLoRA
  • Пайплайны Stable Diffusion и ComfyUI
  • Рендеринг в Blender и транскодирование на NVENC

  • Выделенный GPU

    Вся карта в вашем распоряжении: никакого разделения по времени и общей видеопамяти.

  • Тензорные ядра 4-го поколения

    GPU на архитектуре Ada Lovelace с поддержкой FP8 для эффективного инференса.

  • Сквозная ECC

    Видеопамять с ECC на GPU и память ECC на хосте EPYC.

  • Безлимитный трафик

    Обслуживайте инференс моделей и передавайте ответы потоком без платы за исходящий трафик.

Руководства по решениям

Советы по подбору конфигурации под вашу задачу

Каждое руководство рекомендует три сервера, с таблицей подбора конфигурации и советами по настройке.

Другие линейки серверов

Частые вопросы

GPU-серверы: частые вопросы

Все вопросы
Какого размера модель поместится в 20 ГБ видеопамяти?

Как правило, модель 7–8B в 4-битном квантовании помещается с запасом, оставляя место для длинного контекста, а модели класса 13B — в 4- или 8-битном. Для более крупных моделей нужен L40S с 48 ГБ. Всегда сверяйтесь с оценкой потребления памяти в вашем фреймворке.

Установлены ли драйверы NVIDIA и CUDA?

Вы получаете чистую ОС, чтобы самостоятельно контролировать версии. В Ubuntu драйвер и CUDA устанавливаются несколькими командами, а NVIDIA Container Toolkit позволяет запускать GPU-нагрузки в Docker.

Можно ли использовать GPU для кодирования видео?

Да. Оба GPU оснащены аппаратными видеоблоками NVENC и NVDEC с поддержкой в FFmpeg — для транскодирования прямых трансляций и конвейеров VOD.

L40S нет в наличии. Какие есть варианты?

RTX 4000 SFF Ada есть в наличии и закрывает большинство задач инференса, генерации изображений и рендеринга. Для моделей, которым нужно 48 ГБ, подпишитесь на уведомление на странице L40S: запас популярных конфигураций регулярно пополняется.

Взлет разрешен.

NVIDIA RTX 4000 SFF Ada готов к развертыванию по цене $435/мес.. Без платы за установку, отмена в любой момент.

Развернуть RTX 4000 AdaСравнить серверы