H200 GPU accelerator (SXM card) vs L40

Победитель по сводному баллу — L40 (быстрее на 77%).

vs
Поменять карты — альтернативы по соседнему рейтингу
Вместо H200 GPU accelerator (SXM card)
A800 SXM4 80 GBGeForce RTX 4080H200 GPU accelerator (PCIe card)A800 PCIe 80 GBRadeon Instinct MI200Radeon Instinct MI210
Вместо L40
RTX 6000 Ada GenerationData Center GPU Max SubsystemL40SL40 CNXL40GH100 CNX

Сводный балл

NVIDIA H200 GPU accelerator (SXM card) #62
31.8
NVIDIA L40 #26
56.2

L40 быстрее на 77% по сводному баллу.

Позиция в линейке

Где обе карты находятся относительно референс-GPU разных тиров.

GeForce RTX 5090
75.2
L40
56.2
H200 GPU accelerator (SXM card)
31.8
GeForce RTX 4070 SUPER
24.5
GeForce RTX 3060 12 GB
9.2
GeForce GTX 1660
3.3
GeForce GTX 1050 Ti
1.2

По сценариям

Сравнение по 5 component-баллам. Шкала 0-100, где 100 — лидер по этому сценарию во всей нашей базе.

Гейминг −37%
40.0
63.5
AI-инференс −10%
28.1
31.4
3D-рендер −58%
27.6
65.5
Вычисления −67%
21.9
65.9
Энергоэффект. −73%
15.8
58.5
H200 GPU accelerator (SXM card) L40

Плюсы и минусы

H200 GPU accelerator (SXM card)

  • Производительность ниже на 43%
  • Энергопотребление выше (700 Вт vs 300 Вт)
  • Больше видеопамяти (141 ГБ vs 48 ГБ)

L40

  • Производительность выше на 77%
  • Энергопотребление ниже (300 Вт vs 700 Вт, на 57% экономнее)
  • Меньше видеопамяти (48 ГБ vs 141 ГБ)
  • Есть RT-ядра (142) для трассировки лучей
  • Выше пик FP32 (90.5 TFLOPS vs )

Реальные бенчмарки

Усреднённые результаты из публичных баз: PassMark, Geekbench Browser, 3DMark Hall of Fame.

Geekbench 6 OpenCL
H200 GPU accelerator (SXM card)
—
L40
333 904
Geekbench 6 Vulkan
H200 GPU accelerator (SXM card)
—
L40
237 295
PassMark G3D Mark
H200 GPU accelerator (SXM card)
—
L40
27 355

Чип и ядра

ПараметрH200 GPU accelerator (SXM card)H200 GPU accelerator (SXM card)L40L40
Архитектура—Ada Lovelace
Чип—AD102
CUDA-ядра—18 176
RT-ядра—142
Tensor-ядра—568
ROPs—192
TMUs—568
Базовая частота—735 МГц
Boost-частота—2 490 МГц
FP32 пик—90.52 TFLOPS
FP16 пик—90.52 TFLOPS
Транзисторы—76.3 млрд
Площадь чипа—609 мм²
Техпроцесс989 нм5 нм
Дата выпуска2024-11-182022-10-13

Память

ПараметрH200 GPU accelerator (SXM card)H200 GPU accelerator (SXM card)L40L40
Объём141 ГБ48 ГБ
ТипHBM3EGDDR6
Шина5 120 бит384 бит
Частота—2 250 МГц
Bandwidth3360 ГБ/с864 ГБ/с
L2 cache—96 МБ

Питание и форм-фактор

ПараметрH200 GPU accelerator (SXM card)H200 GPU accelerator (SXM card)L40L40
TDP700 Вт300 Вт
Рекомендуемый БП—700 Вт
Разъём питания—1x 16-pin
Интерфейс—PCIe 4.0 x16
Длина—267 мм
Слотов—2
HDMI——
DisplayPort—4× 1.4a

Технологии и API

ПараметрH200 GPU accelerator (SXM card)H200 GPU accelerator (SXM card)L40L40
DirectX—12.2
Vulkan—1.4
OpenGL—4.6
OpenCL—3.0
CUDA—8.9
DLSS—да
FSR——
XeSS——
Resizable BARдада