H100 SXM5 96 GB vs L40

Победитель по сводному баллу — H100 SXM5 96 GB (быстрее на 60%).

vs
Поменять карты — альтернативы по соседнему рейтингу
Вместо H100 SXM5 96 GB
Radeon Instinct MI250H100 SXM5 80 GBH100 SXM5 94 GBH100 NVL 94 GBH100 PCIe 96 GBRTX PRO 6000 Blackwell
Вместо L40
Data Center GPU Max SubsystemRTX 6000 Ada GenerationL40SL40 CNXL40GGeForce RTX 4090

Сводный балл

NVIDIA H100 SXM5 96 GB #12
31.4
NVIDIA L40 #35
19.6

H100 SXM5 96 GB быстрее на 60% по сводному баллу.

Позиция в линейке

Где обе карты находятся относительно референс-GPU разных тиров.

H100 SXM5 96 GB
31.4
GeForce RTX 5090
24.9
L40
19.6
GeForce RTX 4070 SUPER
8.1
GeForce RTX 3060 12 GB
3.7
GeForce GTX 1660
1.7
GeForce GTX 1050 Ti
0.7

По сценариям

Сравнение по 5 component-баллам. Шкала 0-100, где 100 — лидер по этому сценарию во всей нашей базе.

Гейминг +22%
22.0
18.0
AI-инференс +174%
65.0
23.7
3D-рендер −6%
18.6
19.8
Вычисления ≈
17.2
17.1
Энергоэффект. −48%
18.1
34.5
H100 SXM5 96 GB L40

Плюсы и минусы

H100 SXM5 96 GB

  • Производительность выше на 60%
  • Энергопотребление выше (700 Вт vs 300 Вт)
  • Больше видеопамяти (96 ГБ vs 48 ГБ)

L40

  • Производительность ниже на 37%
  • Энергопотребление ниже (300 Вт vs 700 Вт, на 57% экономнее)
  • Меньше видеопамяти (48 ГБ vs 96 ГБ)
  • Есть RT-ядра (142) для трассировки лучей
  • Выше пик FP32 (90.5 TFLOPS vs 66.9)

Реальные бенчмарки

Усреднённые результаты из публичных баз: PassMark, Geekbench Browser, 3DMark Hall of Fame.

Geekbench 6 OpenCL
H100 SXM5
—
L40
333 904
Geekbench 6 Vulkan
H100 SXM5
—
L40
237 295
PassMark G3D Mark
H100 SXM5
—
L40
27 355

Чип и ядра

ПараметрH100 SXM5 96 GBH100 SXM5L40L40
АрхитектураHopperAda Lovelace
ЧипGH100AD102
CUDA-ядра16 89618 176
RT-ядра—142
Tensor-ядра528568
ROPs24192
TMUs528568
Базовая частота1 350 МГц735 МГц
Boost-частота1 980 МГц2 490 МГц
FP32 пик66.91 TFLOPS90.52 TFLOPS
FP16 пик267.60 TFLOPS90.52 TFLOPS
Транзисторы80.0 млрд76.3 млрд
Площадь чипа814 мм²609 мм²
Техпроцесс5 нм5 нм
Дата выпуска2023-03-212022-10-13

Память

ПараметрH100 SXM5 96 GBH100 SXM5L40L40
Объём96 ГБ48 ГБ
ТипHBM3GDDR6
Шина5 120 бит384 бит
Частота1 313 МГц2 250 МГц
Bandwidth3360 ГБ/с864 ГБ/с
L2 cache50 МБ96 МБ

Питание и форм-фактор

ПараметрH100 SXM5 96 GBH100 SXM5L40L40
TDP700 Вт300 Вт
Рекомендуемый БП1 100 Вт700 Вт
Разъём питания8-pin EPS1x 16-pin
ИнтерфейсPCIe 5.0 x16PCIe 4.0 x16
Длина—267 мм
Слотов—2
HDMI——
DisplayPort—4× 1.4a

Технологии и API

ПараметрH100 SXM5 96 GBH100 SXM5L40L40
DirectX—12.2
Vulkan—1.4
OpenGL—4.6
OpenCL3.03.0
CUDA9.08.9
DLSS—да
FSR——
XeSS——
Resizable BARдада