A100 GPU accelerator (PCIe card) vs H100 SXM5 96 GB

Победитель по сводному баллу — H100 SXM5 96 GB (быстрее на 495%).

vs
Поменять карты — альтернативы по соседнему рейтингу
Вместо A100 GPU accelerator (PCIe card)
Quadro RTX 6000TITAN RTXRadeon RX 7400Arc B580Tesla V100 PCIe 32 GBA30 PCIe
Вместо H100 SXM5 96 GB
GeForce RTX 5090 DH100 SXM5 80 GBH100 SXM5 94 GBH100 PCIe 96 GBGeForce RTX 5090 D V2H800 SXM5

Сводный балл

NVIDIA A100 GPU accelerator (PCIe card) #223
12.6
NVIDIA H100 SXM5 96 GB #14
74.9

H100 SXM5 96 GB быстрее на 495% по сводному баллу.

Позиция в линейке

Где обе карты находятся относительно референс-GPU разных тиров.

GeForce RTX 5090
75.2
H100 SXM5 96 GB
74.9
GeForce RTX 4070 SUPER
24.5
A100 GPU accelerator (PCIe card)
12.6
GeForce RTX 3060 12 GB
9.2
GeForce GTX 1660
3.3
GeForce GTX 1050 Ti
1.2

По сценариям

Сравнение по 5 component-баллам. Шкала 0-100, где 100 — лидер по этому сценарию во всей нашей базе.

Гейминг −80%
15.7
77.7
AI-инференс −87%
11.3
86.0
3D-рендер −82%
10.9
61.8
Вычисления −87%
8.6
66.4
Энергоэффект. −43%
17.4
30.7
A100 GPU accelerator (PCIe card) H100 SXM5 96 GB

Плюсы и минусы

A100 GPU accelerator (PCIe card)

  • Производительность ниже на 83%
  • Энергопотребление ниже (250 Вт vs 700 Вт, на 64% экономнее)
  • Меньше видеопамяти (40 ГБ vs 96 ГБ)

H100 SXM5 96 GB

  • Производительность выше на 495%
  • Энергопотребление выше (700 Вт vs 250 Вт)
  • Больше видеопамяти (96 ГБ vs 40 ГБ)
  • Выше пик FP32 (66.9 TFLOPS vs )

Чип и ядра

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 SXM5 96 GBH100 SXM5
Архитектура—Hopper
Чип—GH100
CUDA-ядра—16 896
RT-ядра——
Tensor-ядра—528
ROPs—24
TMUs—528
Базовая частота—1 350 МГц
Boost-частота—1 980 МГц
FP32 пик—66.91 TFLOPS
FP16 пик—267.60 TFLOPS
Транзисторы—80.0 млрд
Площадь чипа—814 мм²
Техпроцесс312 нм5 нм
Дата выпуска2020-05-142023-03-21

Память

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 SXM5 96 GBH100 SXM5
Объём40 ГБ96 ГБ
ТипHBM2HBM3
Шина5 120 бит5 120 бит
Частота—1 313 МГц
Bandwidth1555 ГБ/с3360 ГБ/с
L2 cache—50 МБ

Питание и форм-фактор

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 SXM5 96 GBH100 SXM5
TDP250 Вт700 Вт
Рекомендуемый БП—1 100 Вт
Разъём питания—8-pin EPS
Интерфейс—PCIe 5.0 x16
Длина——
Слотов——
HDMI——
DisplayPort——

Технологии и API

ПараметрA100 GPU accelerator (PCIe card)A100 GPU accelerator (PCIe card)H100 SXM5 96 GBH100 SXM5
DirectX——
Vulkan——
OpenGL——
OpenCL—3.0
CUDA—9.0
DLSS——
FSR——
XeSS——
Resizable BARдада