H100 GPU accelerator (SXM card) vs L40 CNX

Победитель по сводному баллу — L40 CNX (быстрее на 86%).

vs
Поменять карты — альтернативы по соседнему рейтингу
Вместо H100 GPU accelerator (SXM card)
GeForce RTX 4070 Ti SUPER AD102GeForce RTX 3090 TiH800 GPU accelerator (SXM card)A100XA100 SXM4 80 GBA100 PCIe 80 GB
Вместо L40 CNX
Data Center GPU Max SubsystemL40SL40L40GH100 CNXH100 PCIe 80 GB

Сводный балл

NVIDIA H100 GPU accelerator (SXM card) #72
29.8
NVIDIA L40 CNX #27
55.4

L40 CNX быстрее на 86% по сводному баллу.

Позиция в линейке

Где обе карты находятся относительно референс-GPU разных тиров.

GeForce RTX 5090
75.2
L40 CNX
55.4
H100 GPU accelerator (SXM card)
29.8
GeForce RTX 4070 SUPER
24.5
GeForce RTX 3060 12 GB
9.2
GeForce GTX 1660
3.3
GeForce GTX 1050 Ti
1.2

По сценариям

Сравнение по 5 component-баллам. Шкала 0-100, где 100 — лидер по этому сценарию во всей нашей базе.

Гейминг −40%
37.9
63.1
AI-инференс −13%
25.3
29.2
3D-рендер −60%
26.2
65.2
Вычисления −68%
20.7
65.5
Энергоэффект. −74%
14.9
58.1
H100 GPU accelerator (SXM card) L40 CNX

Плюсы и минусы

H100 GPU accelerator (SXM card)

  • Производительность ниже на 46%
  • Энергопотребление выше (700 Вт vs 300 Вт)
  • Больше видеопамяти (64 ГБ vs 24 ГБ)

L40 CNX

  • Производительность выше на 86%
  • Энергопотребление ниже (300 Вт vs 700 Вт, на 57% экономнее)
  • Меньше видеопамяти (24 ГБ vs 64 ГБ)
  • Есть RT-ядра (142) для трассировки лучей
  • Выше пик FP32 (90.0 TFLOPS vs )

Чип и ядра

ПараметрH100 GPU accelerator (SXM card)H100 GPU accelerator (SXM card)L40 CNXL40 CNX
Архитектура—Ada Lovelace
Чип—AD102
CUDA-ядра—18 176
RT-ядра—142
Tensor-ядра—568
ROPs—192
TMUs—568
Базовая частота—1 005 МГц
Boost-частота—2 475 МГц
FP32 пик—89.97 TFLOPS
FP16 пик—89.97 TFLOPS
Транзисторы—76.3 млрд
Площадь чипа—609 мм²
Техпроцесс989.4 нм5 нм
Дата выпуска2022-03-222022-10-13

Память

ПараметрH100 GPU accelerator (SXM card)H100 GPU accelerator (SXM card)L40 CNXL40 CNX
Объём64 ГБ24 ГБ
ТипHBM3GDDR6
Шина5 120 бит384 бит
Частота—2 250 МГц
Bandwidth3352 ГБ/с864 ГБ/с
L2 cache—48 МБ

Питание и форм-фактор

ПараметрH100 GPU accelerator (SXM card)H100 GPU accelerator (SXM card)L40 CNXL40 CNX
TDP700 Вт300 Вт
Рекомендуемый БП—700 Вт
Разъём питания—1x 16-pin
Интерфейс—PCIe 4.0 x16
Длина—267 мм
Слотов—2
HDMI—1× 2.1
DisplayPort—3× 1.4a

Технологии и API

ПараметрH100 GPU accelerator (SXM card)H100 GPU accelerator (SXM card)L40 CNXL40 CNX
DirectX—12.2
Vulkan—1.4
OpenGL—4.6
OpenCL—3.0
CUDA—8.9
DLSS—да
FSR——
XeSS——
Resizable BARдада