Конфигуратор GPU-сервера — аренда сервера с видеокартой

Веса модели занимают примерно 2 ГБ на миллиард параметров в FP16, 1 ГБ в 8-битной и около 0,5 ГБ в 4-битной квантизации. Сверху нужно ещё 15–20% на кэш контекста, а длинный контекст и много параллельных запросов требуют больше. Модель на 70 млрд параметров в FP16 занимает около 140 ГБ, в 4-битной квантизации — 35–40 ГБ. В конфигураторе есть видеокарты на 24, 48, 80 и 141 ГБ.

Полное дообучение требует в 8–10 раз больше памяти, чем запуск той же модели: кроме весов в видеопамяти лежат градиенты и состояние оптимизатора. Для модели на 7 млрд параметров это около 70 ГБ. Методы LoRA и QLoRA снижают потребность в разы: с QLoRA модели на 7–14 млрд параметров дообучают на карте с 24 ГБ, а модель на 70 млрд — на одной карте с 80 ГБ.

Tesla A10, RTX A5000, RTX 3090 и RTX 4090 подходят для запуска небольших и средних моделей, генерации изображений и дообучения через LoRA. Tesla A100 на 80 ГБ нужна, когда модель не помещается в память карты поменьше, для полного обучения и работы с длинным контекстом. Карта дороже в час, но на длинном обучении итоговая сумма часто выходит меньше: задача заканчивается быстрее.

Да, в конфигураторе можно выбрать до 4 видеокарт одной модели в сервере. Их видеопамять складывается, поэтому модель, которая не помещается на одну карту, раскладывают на несколько, например через tensor parallel в vLLM. Скорость растёт медленнее, чем число карт: часть времени уходит на обмен данными между ними.

Stable Diffusion 1.5 работает от 6 ГБ, SDXL — от 8–10 ГБ, SD 3.5 Large — от 16 ГБ. Веса FLUX.1 в FP16 занимают около 24 ГБ, поэтому на карте с 24 ГБ его запускают в FP8 или с выгрузкой текстового энкодера. От объёма памяти зависит и максимальное разрешение картинки. ComfyUI можно установить сразу при создании сервера.

Ориентир: оперативная память не меньше удвоенного объёма видеопамяти и 4–8 ядер на каждую видеокарту. CPU и RAM готовят данные и загружают веса. В конфигураторе vCPU и оперативная память выбираются из готовых наборов под каждую карту. Сетевой диск задаётся от 128 до 2048 ГБ: закладывайте размер весов модели, датасетов и чекпойнтов с запасом.

Да. В конфигураторе доступны образы: Ubuntu 22.04 + CUDA 12.8, Ubuntu 22.04 + CUDA 13, Ubuntu 24.04 + CUDA 12.8, Ubuntu 24.04 + CUDA 13, Ubuntu 26.04 + CUDA 13 и Windows Server 2022. В образах с CUDA драйвер NVIDIA уже установлен, видеокарта видна в nvidia-smi сразу после запуска; PyTorch и другие библиотеки ставьте под версию CUDA из названия образа. Вместе с ОС можно сразу установить приложения: ComfyUI, FaceFusion, JupyterLab, OpenClaw и ОpenClaw.

Видеокарта стоит от 17,86 ₽ в час (Tesla A10) до 375 ₽ в час (H200), помесячно — от 12 000 ₽. vCPU, оперативная память и диск добавляются к этой сумме, итог за час и за месяц конфигуратор показывает до создания сервера. Оплата посекундная, сервер можно остановить в любой момент.

Да. В личном кабинете в меню сервера есть пункт «Изменить конфигурацию»: он открывает этот же конфигуратор с текущими параметрами, где можно выбрать другую видеокарту или их число.