Серверы с видеокартой для ИИ и нейросетей: GPU-серверы и VDS

Здесь собраны только тарифы с дискретной видеокартой: для запуска и обучения нейросетей, работы с LLM, генерации изображений и рендеринга. В таблице указаны модель видеокарты и её память, а фильтр «Тип сервера» оставит только выделенные серверы или только VDS.

  • 9 провайдеры
  • 107 тарифов
  • Цена от 6 285 ₽

Для каких задач нужна видеокарта

  • Запуск языковых моделей (LLM). Свой чат-бот или API на Llama, DeepSeek, Gemma, Qwen через Ollama, vLLM или llama.cpp: данные не уходят во внешний сервис.
  • Дообучение моделей. Fine-tuning и LoRA на своих данных.
  • Генерация изображений и видео. Stable Diffusion, Flux, ComfyUI.
  • Распознавание речи. Расшифровка аудио и видео, например Whisper.
  • Рендеринг и обработка видео. 3D-рендер, перекодирование, вычисления на CUDA.

Главное — память видеокарты

Модель должна целиком поместиться в память видеокарты (VRAM) вместе с контекстом. Если памяти не хватает, модель либо не запустится, либо будет работать в разы медленнее.

Примерный расчёт для запуска модели: на каждый миллиард параметров нужно около 2 ГБ памяти в 16-битном формате, около 1 ГБ в 8-битном и 0,5–0,6 ГБ в 4-битном (квантованном), плюс 10–20 % на контекст.

Память видеокарты Что примерно помещается
8–12 ГБ модели до 7–8 млрд параметров в 4 битах, Stable Diffusion, Whisper
16–24 ГБ модели до 13–14 млрд параметров в 8 битах или до 30 млрд в 4 битах, SDXL и Flux
32–48 ГБ модели до 30 млрд параметров в 8 битах или до 70 млрд в 4 битах
80 ГБ и больше модели на 70 млрд параметров в 8 битах, дообучение крупных моделей

Для дообучения памяти нужно в несколько раз больше, чем для запуска той же модели; LoRA заметно снижает эти требования.

Несколько видеокарт

Модель можно разделить между несколькими видеокартами (это умеют vLLM, llama.cpp и другие), и тогда их память складывается. Обмен данными между картами медленнее, чем внутри одной, поэтому две карты по 24 ГБ работают медленнее одной на 48 ГБ, но для запуска моделей этого обычно достаточно. Число карт указано перед моделью: «2× …», «4× …»; объём памяти в таблице — у одной карты.

Выделенный сервер или VDS с видеокартой

  • Выделенный сервер. Весь физический сервер ваш: процессор, память, диски и видеокарта. Производительность стабильная, подходит для долгого обучения и постоянной нагрузки.
  • VDS с выделенной видеокартой. Видеокарта целиком ваша, а процессор и память делятся с другими клиентами на том же физическом сервере. С той же видеокартой это дешевле. Подходит для разработки, тестов и запуска готовых моделей. Такие тарифы отмечены в таблице.

Игровые, профессиональные и серверные видеокарты

  • GeForce (RTX 3090, 4090, 5090) — высокая скорость за свои деньги, но меньше памяти.
  • Профессиональные (RTX A4000–A6000, RTX PRO 6000) — больше памяти, рассчитаны на круглосуточную работу.
  • Серверные ускорители (A100, H100) — максимум памяти и скорости для обучения крупных моделей. Tesla T4 и L4 — экономичные карты для запуска моделей.
  • AMD (Radeon, Instinct) работают через ROCm. Перед заказом проверьте, что ваши программы его поддерживают: большая часть готовых инструментов рассчитана на NVIDIA CUDA.

На что ещё смотреть

  1. Почасовая оплата. Удобна для разового обучения или эксперимента; у некоторых провайдеров есть минимальный срок.
  2. Диск. Модели и наборы данных занимают десятки и сотни гигабайт: нужен быстрый NVMe с запасом.
  3. Оперативная память. Её должно быть не меньше, чем памяти видеокарты: модель сначала загружается в оперативную память.
  4. Канал и трафик. Важны, если часто скачиваете модели и наборы данных или отдаёте результат пользователям.
  5. Расположение. Если модель отвечает пользователям напрямую, выбирайте сервер ближе к ним; для обучения расположение почти не важно.
  6. Готовые образы. Некоторые провайдеры предлагают образы с драйверами, CUDA, PyTorch или Ollama: сервер готов к работе сразу после установки.