NVIDIA Tesla A100 80GB

Высокопроизводительная видеокарта, разработанная специально для ускорения работы искусственного интеллекта

Стоимость

от 140.62 ₽ / час

Архитектура

NVIDIA AMPERE

Память GPU

80 ГБ

Производительность

77,97 TFLOPS

Бенчмарки видеокарты в прикладных сценариях использования

Запускайте свои ИИ продукты быстрее с помощью мощностей видеокарты NVIDIA Tesla A100 80GB

Компьютерное зрение (CV)

Обработка изображений | Определение объектов

RTX 4090 —  1,247 изобр./с

RTX 4090

A100 80ГБ —  1,714 изобр./с

A100 80ГБ

V100 32ГБ —  963 изобр./с

V100 32ГБ

Производительность ResNet-50 (Batch Size 64, FP16)

Большие языковые модели (LLM)

Обучение модели | Fine-tuning

RTX 4090 —  284

RTX 4090

A100 80ГБ —  425

A100 80ГБ

V100 32ГБ —  178

V100 32ГБ

Обучение BERT-Large (образы/с, смешанная точность)

Тяжелые задачи с большой памятью

Обработка больших данных | Multi-Modal AI

RTX 4090 —  1.018

RTX 4090

A100 80ГБ —  2.039

A100 80ГБ

V100 32ГБ —  900

V100 32ГБ

Пропускная способность памяти (Гб/с)

Поддержка видеокартой форматов для кодирования и декодирования видео

Кол-во 1

Декодеры NVDEC 5th Gen

MPEG-1, MPEG-2, VC-1, VP8, VP9 (8,10,12 bit), H.264, H.265 (8,10,12 bit), AV1 (8,10 bit)

Сравнение характеристик NVIDIA Tesla A100 80GB с другими видеокартами

Характеристика

Память

Tensor performance (fp16)

Пропускная способность памяти

Cuda cores

Tensor cores

Стоимость в час

Tesla A100

80

77,97

1 935

6 912

432

140.62 ₽/ч

Tesla A10

24

31,24

600

9 216

288

18.75 ₽/ч

RTX A5000

24

27,77

768

8 192

256

21.88 ₽/ч

H100 80Gb PCIe

80

204,9

2 088

14 592

456

209.38 ₽/ч

H100 80Gb SXM

80

1 979,0

3 430

16 896

528

209.38 ₽/ч

H200

141

1 979,0

4 800

16 896

528

262.50 ₽/ч

RTX 3090

24

35,58

936

10 496

328

23.96 ₽/ч

RTX 4090

48

82,58

1 008

16 384

512

57.29 ₽/ч

Бенчмарки обучения ИИ с PyTorch

Сравнение скорости обучения/инференса GPU с использованием PyTorch®/TensorFlow для компьютерного зрения (CV), обработки естественного языка (NLP), синтеза речи (TTS) и т.д.

0
1
2
3
4
5
6
7
8
9
10
Tesla A100
Tesla A100 0.0
Tesla A10
Tesla A10 0.0
RTX A5000
RTX A5000 0.0
H100 80Gb PCIe
H100 80Gb PCIe 0.0
H100 80Gb SXM
H100 80Gb SXM 0.0
H200
H200 0.0
RTX 3090
RTX 3090 0.0
RTX 4090
RTX 4090 0.0

*Больше — лучше

Арендовать видеокарту выгоднее

Аренда карты

Стоимость аренды

140.62 ₽/ч

Затраты на электричество

Бесплатно

Установка оборудования

Не требуется

Риск поломки

Отсутствует

Покупка карты

Стоимость покупки

2 131 761 ₽

Затраты на электричество

От 1 512 ₽

Установка оборудования

Требуются комплектующие

Риск поломки

Высокий

Intellion Cloud предлагает надежную инфраструктуру 
для аренды видеокарт под ваши задачи

3 мин

Время запуска

100%

Мощностей при аренде

99.95%

Доступность (SLA)

Бесплатная

Замена комплектующих

Поддерживаемые технологии

Запускайте свои ИИ продукты с Tesla A100

Mistral

Модель построенная на архитектуре Transformer и Mixture of Experts. Отличается высокой скоростью работы и эффективностью

Поддерживаются версии Mistral 7B, Mistral 8x7B и Mistral 8x22B

Llama

Семейство больших языковых моделей (LLM) от Meta AI, включает версии от 7B до 2T параметров

Оптимально работают модели Llama 7B, 13B, 70B и Llama 2

Falcon

Открытая языковая модель на основе декодера Transformer, обученная на качественных данных из интернета (RefinedWeb)

Поддерживаются Falcon 7B, 40B и 180B версии

DeepSeek

Платформа и семейство моделей для NLP, CV и генерации кода. С открытыми исходниками и гибкой интеграции в бизнес-приложения.

Доступны DeepSeek 7B, 33B, DeepSeek Coder и DeepSeek Math

ComfyUI

Узловой интерфейс для создания пайплайнов генерации картинок. Дает полный контроль над процессом с графическим веб редактором.

Поддерживаются Stable Diffusion XL, SDXL Turbo и другие модели

Stable Diffusion XL

Флагманская модель для генерации изображений высокого качества с разрешением до 1024x1024 и улучшенной детализацией

Оптимально работают модели SDXL Base, SDXL Refiner и SDXL Turbo

InvokeAI

Профессиональный инструмент, который предоставляет удобные инструменты для редактирования и композиции

Доступны Stable Diffusion 2.1, SDXL, Kandinsky и IP-Adapter модели

Automatic1111 WebUI

Веб-интерфейс с богатым функционалом для развертывания Stable Diffusion. Включает множество расширений и инструментов.

Поддерживаются SD 1.5, SDXL, ControlNet и LoRA адаптеры

Apache Spark

Универсальная платформа для обработки больших данных в реальном времени и пакетном режиме. Поддерживает SQL, машинное обучение.

Поддерживаются Spark SQL, Spark Streaming и MLlib компоненты

ClickHouse

Высокопроизводительная колоночная СУБД для аналитики больших данных. Обеспечивает быстрые запросы на петабайтах информации

Доступны ClickHouse Server, ClickHouse Keeper и MaterializedView

Apache Kafka

Распределенная платформа потоковой передачи данных для построения конвейеров обработки в реальном времени

Поддерживаются Kafka Streams, Kafka Connect и Schema Registry

OpenCV

Библиотека компьютерного зрения для массовой обработки изображений и видео с алгоритмами машинного обучения

Оптимально работают OpenCV DNN, CUDA модули и Video Processing

Вопросы и ответы

Да, в Intelion Cloud можно подключить несколько видеокарт NVIDIA Tesla A100 80GB для распределённого обучения нейросетей и других ресурсоёмких задач искусственного интеллекта.

Да, вы можете создать кластер из видеокарт NVIDIA Tesla A100 80GB для решения сложных вычислительных задач, таких как обучение нейросетей, обработка больших данных, рендеринг и другие ресурсоёмкие сценарии. В Intelion Cloud доступны как отдельные GPU-серверы, так и высокопроизводительные вычислительные кластеры (HPC), которые позволяют объединять несколько видеокарт для параллельной работы.

Безопасность данных в Intelion Cloud обеспечивается за счёт комплексного подхода: современных технологий защиты, резервного копирования, высокой доступности, гибкой настройки доступа и  соответствия отраслевым стандартам. Это позволяет клиентам быть уверенными в сохранности и  конфиденциальности своих данных при работе в облаке.

В стоимость аренды GPU в Intelion Cloud входит не только сама видеокарта, но и процессор, оперативная память, дисковое пространство, сетевые ресурсы, предустановленные драйверы и  операционная система. Также предоставляется круглосуточная техническая поддержка. Дополнительно можно подключить услуги резервного копирования и системного администрирования за отдельную плату

Да, в Intelion Cloud доступна возможность гибко увеличивать или уменьшать конфигурацию арендуемого GPU-сервера. Вы можете подобрать оптимальный набор видеокарт, процессоров, объёма оперативной памяти и дискового пространства под ваши задачи, а также менять конфигурацию при необходимости. Это позволяет масштабировать вычислительные ресурсы в зависимости от текущих потребностей проекта

Начните работу с NVIDIA Tesla A100 80GB

Запустите сервер в 3 клика. Используйте почасовую оплату

Создать новый сервер

Тестовый период для юр. лиц

Белые IPv4 адреса

Поддержка 7/7 c 9 до 21 Мск.