Рейтинг GPU для AI-инференса — NVIDIA — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтры: NVIDIA + Pro и Server (Профессиональные RTX PRO/A/Quadro и серверные H100/B200/MI300X)

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 NVIDIA DRIVE A100 PROD Ampere Сервер 32 ГБ 400 Вт
23.1
#2 NVIDIA GRID A100A Ampere Сервер 32 ГБ 400 Вт
17.1
#3 NVIDIA GRID A100B Ampere Сервер 48 ГБ 400 Вт
15.4
#4 NVIDIA RTX A6000 Ampere WS 48 ГБ 300 Вт
14.0
#5 NVIDIA RTX A5500 Ampere WS 24 ГБ 230 Вт
13.0
#6 NVIDIA Tesla V100S PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
12.2
#7 NVIDIA Tesla V100 SXM3 32 GB Volta Сервер 32 ГБ 250 Вт
11.7
#8 NVIDIA Tesla V100 SXM2 16 GB Volta Сервер 16 ГБ 250 Вт
11.3
#9 NVIDIA Tesla V100 SXM2 32 GB Volta Сервер 32 ГБ 250 Вт
11.2
#10 NVIDIA Tesla V100 PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
10.8
#11 NVIDIA RTX A5000 Ampere WS 24 ГБ 230 Вт
10.4
#12 NVIDIA RTX A5000-12Q Ampere WS 12 ГБ 230 Вт
9.6
#13 NVIDIA Tesla V100 FHHL Volta Сервер 16 ГБ 250 Вт
9.4
#14 NVIDIA RTX A5000-8Q Ampere WS 8 ГБ 230 Вт
9.3
#15 NVIDIA RTX A4500 Ampere WS 20 ГБ 200 Вт
8.8
#16 NVIDIA Tesla V100 PCIe 16 GB Volta Сервер 16 ГБ 300 Вт
7.8
#17 NVIDIA RTX A4000 Ampere Сервер 16 ГБ 140 Вт
6.8
#18 NVIDIA RTX A4000H Ampere Сервер 16 ГБ 140 Вт
6.8
#19 NVIDIA RTX A4500 Embedded Ampere WS 16 ГБ 80 Вт
6.4
#20 NVIDIA Tesla V100 DGXS 32 GB Volta Сервер 32 ГБ 250 Вт
6.2
#21 NVIDIA Quadro Plex 2200 D2 WS 4 ГБ 640 Вт
5.8
#22 NVIDIA Quadro Plex 2200 S4 WS 4 ГБ 600 Вт
5.8
#23 NVIDIA Tesla V100 DGXS 16 GB Volta Сервер 16 ГБ 250 Вт
5.8
#24 NVIDIA Tesla P100 SXM2 Pascal Сервер 16 ГБ 300 Вт
5.0
#25 NVIDIA Tesla P100 PCIe 16 GB Pascal Сервер 16 ГБ 250 Вт
4.7
#26 NVIDIA Tesla P100 PCIe 12 GB Pascal Сервер 12 ГБ 250 Вт
4.0
#27 NVIDIA RTX A2000 12 GB Ampere WS 12 ГБ 70 Вт
3.8
#28 NVIDIA RTX A2000 Ampere WS 6 ГБ 70 Вт
3.4
#29 NVIDIA Quadro Plex 1000 Model IV WS 1.5 ГБ 320 Вт
3.3
#30 NVIDIA Quadro Plex 2100 S4 WS 1.5 ГБ 640 Вт
3.3
#31 NVIDIA RTX A1000 Ampere Сервер 8 ГБ 50 Вт
3.2
#32 NVIDIA Quadro Plex 2100 D4 WS 1 ГБ 640 Вт
3.0
#33 NVIDIA Tesla P100 DGXS Pascal Сервер 16 ГБ 300 Вт
2.7
#34 NVIDIA RTX A2000 Embedded Ampere WS 4 ГБ 35 Вт
2.7
#35 NVIDIA RTX A1000 Embedded Ampere Сервер 4 ГБ 35 Вт
2.5
#36 NVIDIA RTX A500 Ampere WS 4 ГБ 60 Вт
2.2
#37 NVIDIA Tesla P40 Pascal Сервер 24 ГБ 250 Вт
2.0
#38 NVIDIA RTX A500 Embedded Ampere WS 4 ГБ 20 Вт
2.0
#39 NVIDIA RTX A400 Ampere Сервер 4 ГБ 50 Вт
1.4
#40 NVIDIA Quadro P4000 Pascal Сервер 8 ГБ 105 Вт
1.0
#41 NVIDIA Tesla P4 Pascal Сервер 8 ГБ 75 Вт
0.9
#42 NVIDIA Quadro P1000 Pascal Сервер 4 ГБ 47 Вт
0.5
#43 NVIDIA Quadro NVS 450 WS 0.25 ГБ 35 Вт
0.4
#44 NVIDIA Quadro P400 Pascal Сервер 2 ГБ 30 Вт
0.2

Подробности расчёта — страница методики.