A100 GPU accelerator (PCIe card) vs H100 PCIe 96 GB

Победитель по сводному баллу — H100 PCIe 96 GB (быстрее на 471%).

vs
Поменять карты — альтернативы по соседнему рейтингу
Вместо A100 GPU accelerator (PCIe card)
Quadro RTX 6000TITAN RTXRadeon RX 7400Arc B580Tesla V100 PCIe 32 GBA30 PCIe
Вместо H100 PCIe 96 GB
H100 SXM5 80 GBH100 SXM5 94 GBH100 SXM5 96 GBGeForce RTX 5090 D V2H800 SXM5RTX 6000D

Сводный балл

NVIDIA A100 GPU accelerator (PCIe card) #214
12.6
NVIDIA H100 PCIe 96 GB #15
71.8

H100 PCIe 96 GB быстрее на 471% по сводному баллу.

Позиция в линейке

Где обе карты находятся относительно референс-GPU разных тиров.

GeForce RTX 5090
75.2
H100 PCIe 96 GB
71.8
GeForce RTX 4070 SUPER
24.5
A100 GPU accelerator (PCIe card)
12.6
GeForce RTX 3060 12 GB
9.2
GeForce GTX 1660
3.3
GeForce GTX 1050 Ti
1.2

По сценариям

Сравнение по 5 component-баллам. Шкала 0-100, где 100 — лидер по этому сценарию во всей нашей базе.

Гейминг −79%
15.7
74.8
AI-инференс −86%
11.3
82.0
3D-рендер −82%
10.9
59.2
Вычисления −86%
8.6
63.4
Энергоэффект. −41%
17.4
29.5
A100 GPU accelerator (PCIe card) H100 PCIe 96 GB

Плюсы и минусы

A100 GPU accelerator (PCIe card)

  • Производительность ниже на 82%
  • Энергопотребление ниже (250 Вт vs 700 Вт, на 64% экономнее)
  • Меньше видеопамяти (40 ГБ vs 96 ГБ)

H100 PCIe 96 GB

  • Производительность выше на 471%
  • Энергопотребление выше (700 Вт vs 250 Вт)
  • Больше видеопамяти (96 ГБ vs 40 ГБ)
  • Выше пик FP32 (62.1 TFLOPS vs )

Чип и ядра

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 PCIe 96 GBH100 PCIe
Архитектура—Hopper
Чип—GH100
CUDA-ядра—16 896
RT-ядра——
Tensor-ядра—528
ROPs—24
TMUs—528
Базовая частота—1 665 МГц
Boost-частота—1 837 МГц
FP32 пик—62.08 TFLOPS
FP16 пик—248.30 TFLOPS
Транзисторы—80.0 млрд
Площадь чипа—814 мм²
Техпроцесс312 нм5 нм
Дата выпуска2020-05-142023-03-21

Память

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 PCIe 96 GBH100 PCIe
Объём40 ГБ96 ГБ
ТипHBM2HBM3
Шина5 120 бит5 120 бит
Частота—1 313 МГц
Bandwidth1555 ГБ/с3360 ГБ/с
L2 cache—50 МБ

Питание и форм-фактор

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 PCIe 96 GBH100 PCIe
TDP250 Вт700 Вт
Рекомендуемый БП—1 100 Вт
Разъём питания—8-pin EPS
Интерфейс—PCIe 5.0 x16
Длина—268 мм
Слотов—2
HDMI——
DisplayPort——

Технологии и API

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 PCIe 96 GBH100 PCIe
DirectX——
Vulkan——
OpenGL——
OpenCL—3.0
CUDA—9.0
DLSS——
FSR——
XeSS——
Resizable BARдада