Рейтинг GPU для AI-инференса — Pro и Server

AI-балл — для локального запуска больших языковых моделей, Stable Diffusion XL, fine-tuning и инференса embedding-моделей. Учитывается FP16 TFLOPS × 0.6 + Tensor Cores + memory bandwidth + min(VRAM, 80) ÷ 4. Карты с 80+ ГБ VRAM и оптимизацией под Tensor — в топе.

Фильтр: Pro и Server — Профессиональные RTX PRO/A/Quadro и серверные H100/B200/MI300X.

Гейминг AI-инференс 3D-рендер Вычисления Энергоэффективность
Все Consumer Ноутбуки Pro/Server
Все NVIDIA AMD Intel
VRAM: Любой <8 ГБ 8 ГБ 12 ГБ 16 ГБ 24 ГБ 32+ ГБ
# Модель Сегмент Память TDP AI
#1 AMD Radeon Instinct MI300 CDNA 3.0 Сервер 128 ГБ 600 Вт
100.0
#2 AMD Radeon Instinct MI250X CDNA 2.0 Сервер 128 ГБ 500 Вт
80.6
#3 AMD Radeon Instinct MI250 CDNA 2.0 Сервер 128 ГБ 500 Вт
77.3
#4 AMD Radeon Instinct MI300A CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#5 AMD Radeon Instinct MI300X CDNA 3.0 Сервер 192 ГБ 750 Вт
46.5
#6 AMD Radeon Instinct MI210 CDNA 2.0 Сервер 64 ГБ 300 Вт
40.2
#7 AMD Radeon Instinct MI100 CDNA 1.0 Сервер 32 ГБ 300 Вт
36.9
#8 AMD Radeon PRO W7900 RDNA 3.0 WS 48 ГБ 295 Вт
29.6
#9 AMD Radeon PRO W7900D RDNA 3.0 WS 48 ГБ 295 Вт
28.0
#10 AMD Radeon PRO W7800 48 GB RDNA 3.0 WS 48 ГБ 281 Вт
23.9
#11 NVIDIA DRIVE A100 PROD Ampere Сервер 32 ГБ 400 Вт
23.1
#12 AMD Radeon PRO W7800 RDNA 3.0 WS 32 ГБ 260 Вт
21.3
#13 NVIDIA GRID A100A Ampere Сервер 32 ГБ 400 Вт
17.1
#14 NVIDIA GRID A100B Ampere Сервер 48 ГБ 400 Вт
15.4
#15 AMD Radeon PRO W7700 RDNA 3.0 WS 16 ГБ 190 Вт
15.4
#16 AMD Radeon PRO V710 RDNA 3.0 WS 28 ГБ 158 Вт
15.1
#17 NVIDIA RTX A6000 Ampere WS 48 ГБ 300 Вт
14.0
#18 NVIDIA RTX A5500 Ampere WS 24 ГБ 230 Вт
13.0
#19 NVIDIA Tesla V100S PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
12.2
#20 NVIDIA Tesla V100 SXM3 32 GB Volta Сервер 32 ГБ 250 Вт
11.7
#21 AMD Radeon Pro W6900X RDNA 2.0 WS 32 ГБ 300 Вт
11.4
#22 NVIDIA Tesla V100 SXM2 16 GB Volta Сервер 16 ГБ 250 Вт
11.3
#23 NVIDIA Tesla V100 SXM2 32 GB Volta Сервер 32 ГБ 250 Вт
11.2
#24 AMD Radeon PRO V620 RDNA 2.0 WS 32 ГБ 300 Вт
10.8
#25 NVIDIA Tesla V100 PCIe 32 GB Volta Сервер 32 ГБ 250 Вт
10.8
#26 NVIDIA RTX A5000 Ampere WS 24 ГБ 230 Вт
10.4
#27 AMD Radeon PRO W6800 RDNA 2.0 WS 32 ГБ 250 Вт
10.0
#28 AMD Radeon Pro VII GCN 5.1 WS 16 ГБ 250 Вт
9.7
#29 NVIDIA RTX A5000-12Q Ampere WS 12 ГБ 230 Вт
9.6
#30 AMD Radeon Pro W6800X RDNA 2.0 WS 32 ГБ 200 Вт
9.5
#31 NVIDIA Tesla V100 FHHL Volta Сервер 16 ГБ 250 Вт
9.4
#32 NVIDIA RTX A5000-8Q Ampere WS 8 ГБ 230 Вт
9.3
#33 AMD Radeon Pro W6800X Duo RDNA 2.0 WS 32 ГБ 400 Вт
9.2
#34 AMD Radeon Pro Vega II Duo GCN 5.1 WS 32 ГБ 475 Вт
9.1
#35 AMD Radeon PRO W7600 RDNA 3.0 WS 8 ГБ 130 Вт
9.1
#36 NVIDIA RTX A4500 Ampere WS 20 ГБ 200 Вт
8.8
#37 AMD Radeon Pro Vega II GCN 5.1 WS 32 ГБ 475 Вт
8.4
#38 AMD Radeon Instinct MI50 GCN 5.1 Сервер 16 ГБ 300 Вт
8.1
#39 NVIDIA Tesla V100 PCIe 16 GB Volta Сервер 16 ГБ 300 Вт
7.8
#40 NVIDIA RTX A4000 Ampere Сервер 16 ГБ 140 Вт
6.8
#41 NVIDIA RTX A4000H Ampere Сервер 16 ГБ 140 Вт
6.8
#42 NVIDIA RTX A4500 Embedded Ampere WS 16 ГБ 80 Вт
6.4
#43 AMD Radeon PRO W7500 RDNA 3.0 WS 8 ГБ 70 Вт
6.2
#44 NVIDIA Tesla V100 DGXS 32 GB Volta Сервер 32 ГБ 250 Вт
6.2
#45 AMD Radeon Pro Vega 64X GCN 5.0 WS 16 ГБ 250 Вт
5.9
#46 NVIDIA Quadro Plex 2200 D2 WS 4 ГБ 640 Вт
5.8
#47 NVIDIA Quadro Plex 2200 S4 WS 4 ГБ 600 Вт
5.8
#48 NVIDIA Tesla V100 DGXS 16 GB Volta Сервер 16 ГБ 250 Вт
5.8
#49 AMD Radeon Pro V340 16 GB GCN 5.0 WS 16 ГБ 230 Вт
5.4
#50 AMD Radeon Pro W5700X RDNA 1.0 WS 16 ГБ 205 Вт
5.2
#51 AMD Radeon Pro 5700 XT RDNA 1.0 WS 16 ГБ 130 Вт
5.2
#52 AMD Radeon Pro V520 RDNA 1.0 WS 8 ГБ 225 Вт
5.1
#53 AMD Radeon Pro WX 8200 GCN 5.0 WS 8 ГБ 230 Вт
5.1
#54 AMD Radeon Pro V340 8 GB GCN 5.0 WS 8 ГБ 230 Вт
5.0
#55 NVIDIA Tesla P100 SXM2 Pascal Сервер 16 ГБ 300 Вт
5.0
#56 AMD Radeon Pro W6600X RDNA 2.0 WS 8 ГБ 120 Вт
4.9
#57 NVIDIA Tesla P100 PCIe 16 GB Pascal Сервер 16 ГБ 250 Вт
4.7
#58 AMD Radeon Pro SSG GCN 5.0 WS 16 ГБ 260 Вт
4.6
#59 AMD Radeon Pro WX 9100 GCN 5.0 WS 16 ГБ 230 Вт
4.6
#60 AMD Radeon Instinct MI25 GCN 5.0 Сервер 16 ГБ 300 Вт
4.5
#61 AMD Radeon PRO W6600 RDNA 2.0 WS 8 ГБ 100 Вт
4.5
#62 AMD Radeon Pro W5700 RDNA 1.0 WS 8 ГБ 205 Вт
4.3
#63 AMD Radeon Pro 5700 RDNA 1.0 WS 8 ГБ 130 Вт
4.2
#64 AMD Radeon Pro 5600M RDNA 1.0 WS 8 ГБ 50 Вт
4.1
#65 AMD Radeon Pro Vega 64 GCN 5.0 WS 16 ГБ 250 Вт
4.1
#66 NVIDIA Tesla P100 PCIe 12 GB Pascal Сервер 12 ГБ 250 Вт
4.0
#67 AMD Radeon Pro WX 8100 GCN 5.0 WS 8 ГБ 230 Вт
4.0
#68 AMD Radeon Pro V320 GCN 5.0 WS 8 ГБ 230 Вт
3.9
#69 AMD Radeon Pro Vega 48 GCN 5.0 WS 8 ГБ —
3.8
#70 AMD Radeon Pro W6600M RDNA 2.0 WS 8 ГБ 90 Вт
3.8
#71 NVIDIA RTX A2000 12 GB Ampere WS 12 ГБ 70 Вт
3.8
#72 NVIDIA RTX A2000 Ampere WS 6 ГБ 70 Вт
3.4
#73 AMD Radeon Pro Vega 56 GCN 5.0 WS 8 ГБ 210 Вт
3.3
#74 NVIDIA Quadro Plex 1000 Model IV WS 1.5 ГБ 320 Вт
3.3
#75 NVIDIA Quadro Plex 2100 S4 WS 1.5 ГБ 640 Вт
3.3
#76 AMD Radeon Pro 5500 XT RDNA 1.0 WS 8 ГБ 125 Вт
3.2
#77 NVIDIA RTX A1000 Ampere Сервер 8 ГБ 50 Вт
3.2
#78 AMD Radeon Pro W5500 RDNA 1.0 WS 8 ГБ 125 Вт
3.2
#79 NVIDIA Quadro Plex 2100 D4 WS 1 ГБ 640 Вт
3.0
#80 NVIDIA Tesla P100 DGXS Pascal Сервер 16 ГБ 300 Вт
2.7
#81 AMD Radeon Pro W5500M RDNA 1.0 WS 4 ГБ 85 Вт
2.7
#82 NVIDIA RTX A2000 Embedded Ampere WS 4 ГБ 35 Вт
2.7
#83 AMD Radeon Pro W5500X RDNA 1.0 WS 8 ГБ 125 Вт
2.7
#84 Intel Arc Pro A40 Xe-HPG Сервер 6 ГБ 50 Вт
2.6
#85 AMD Radeon Pro 5300 RDNA 1.0 WS 4 ГБ 85 Вт
2.6
#86 NVIDIA RTX A1000 Embedded Ampere Сервер 4 ГБ 35 Вт
2.5
#87 AMD Radeon Pro Duo GCN 3.0 WS 4 ГБ 350 Вт
2.5
#88 AMD FirePro S9300 X2 GCN 3.0 WS 4 ГБ 300 Вт
2.5
#89 Intel Arc Pro A30M Xe-HPG Сервер 4 ГБ 50 Вт
2.4
#90 AMD Radeon Pro 5500M RDNA 1.0 WS 8 ГБ 85 Вт
2.3
#91 AMD Radeon PRO W6400 RDNA 2.0 WS 4 ГБ 50 Вт
2.2
#92 NVIDIA RTX A500 Ampere WS 4 ГБ 60 Вт
2.2
#93 AMD FirePro S9170 GCN 2.0 WS 32 ГБ 275 Вт
2.0
#94 NVIDIA Tesla P40 Pascal Сервер 24 ГБ 250 Вт
2.0
#95 NVIDIA RTX A500 Embedded Ampere WS 4 ГБ 20 Вт
2.0
#96 AMD Radeon Pro Vega 16 GCN 5.0 WS 4 ГБ 75 Вт
2.0
#97 AMD Radeon Pro 580X GCN 4.0 WS 8 ГБ 185 Вт
1.9
#98 AMD Radeon Pro Duo Polaris GCN 4.0 WS 16 ГБ 250 Вт
1.9
#99 AMD Radeon Pro Vega 20 GCN 5.0 WS 4 ГБ 100 Вт
1.8
#100 AMD Radeon Pro 5300M RDNA 1.0 WS 4 ГБ 85 Вт
1.8
#101 AMD Radeon Pro W5300M RDNA 1.0 WS 4 ГБ 85 Вт
1.8
#102 AMD Radeon Pro 575X GCN 4.0 WS 4 ГБ 150 Вт
1.6
#103 AMD Radeon PRO W6300 RDNA 2.0 WS 2 ГБ 25 Вт
1.6
#104 AMD Radeon Pro W6300M RDNA 2.0 WS 2 ГБ 25 Вт
1.6
#105 AMD Radeon Pro WX 7100 GCN 4.0 WS 8 ГБ 130 Вт
1.6
#106 AMD FirePro W9100 GCN 2.0 WS 16 ГБ 275 Вт
1.6
#107 AMD FirePro S9150 GCN 2.0 WS 16 ГБ 235 Вт
1.5
#108 AMD Radeon Pro 580 GCN 4.0 WS 8 ГБ 185 Вт
1.5
#109 AMD Radeon Pro 570X GCN 4.0 WS 4 ГБ 150 Вт
1.5
#110 NVIDIA RTX A400 Ampere Сервер 4 ГБ 50 Вт
1.4
#111 AMD FirePro S9100 GCN 2.0 WS 12 ГБ 225 Вт
1.4
#112 AMD Radeon Pro 575 GCN 4.0 WS 4 ГБ 150 Вт
1.3
#113 AMD FirePro W8100 GCN 2.0 WS 8 ГБ 220 Вт
1.2
#114 AMD Radeon Pro WX Vega M GL GCN 4.0 WS 4 ГБ 65 Вт
1.2
#115 AMD Radeon Pro WX 5100 GCN 4.0 WS 8 ГБ 75 Вт
1.2
#116 AMD Radeon Pro 570 GCN 4.0 WS 4 ГБ 150 Вт
1.2
#117 AMD FirePro S9050 GCN 1.0 WS 12 ГБ 225 Вт
1.2
#118 NVIDIA Quadro P4000 Pascal Сервер 8 ГБ 105 Вт
1.0
#119 AMD FirePro D700 GCN 1.0 WS 6 ГБ 274 Вт
1.0
#120 AMD FirePro S10000 Passive 12GB GCN 1.0 WS 6 ГБ 375 Вт
0.9
#121 AMD FirePro S7150 GCN 3.0 WS 8 ГБ 150 Вт
0.9
#122 NVIDIA Tesla P4 Pascal Сервер 8 ГБ 75 Вт
0.9
#123 AMD FirePro W7100 GCN 3.0 WS 8 ГБ 150 Вт
0.8
#124 AMD Radeon Pro 560X GCN 4.0 WS 4 ГБ 75 Вт
0.8
#125 AMD Radeon Pro WX 3200 GCN 4.0 WS 4 ГБ 65 Вт
0.8
#126 AMD FirePro D500 GCN 1.0 WS 3 ГБ 274 Вт
0.8
#127 AMD Radeon Pro 555X GCN 4.0 WS 4 ГБ 75 Вт
0.7
#128 AMD FirePro W9000 GCN 1.0 WS 6 ГБ 274 Вт
0.7
#129 AMD Radeon Pro WX 4100 GCN 4.0 WS 4 ГБ 50 Вт
0.7
#130 AMD FirePro S9000 GCN 1.0 WS 6 ГБ 225 Вт
0.7
#131 AMD FirePro W7170M GCN 3.0 WS 4 ГБ 100 Вт
0.7
#132 AMD FirePro S7150 x2 GCN 3.0 WS 8 ГБ 265 Вт
0.7
#133 AMD FirePro S7100X GCN 3.0 WS 8 ГБ 100 Вт
0.7
#134 AMD FirePro S10000 GCN 1.0 WS 3 ГБ 375 Вт
0.6
#135 AMD FirePro S10000 Passive GCN 1.0 WS 3 ГБ 375 Вт
0.6
#136 AMD Radeon Pro 460 GCN 4.0 WS 4 ГБ 35 Вт
0.6
#137 AMD Radeon Pro 560 GCN 4.0 WS 4 ГБ 75 Вт
0.6
#138 AMD Radeon Pro WX 3100 GCN 4.0 WS 4 ГБ 65 Вт
0.6
#139 AMD FirePro S9010 GCN 1.0 WS 3 ГБ 200 Вт
0.6
#140 AMD FirePro D300 GCN 1.0 WS 2 ГБ 150 Вт
0.6
#141 AMD FirePro W8000 GCN 1.0 WS 4 ГБ 225 Вт
0.5
#142 NVIDIA Quadro P1000 Pascal Сервер 4 ГБ 47 Вт
0.5
#143 AMD Radeon Pro 455 GCN 4.0 WS 2 ГБ 35 Вт
0.5
#144 AMD Radeon Pro 555 GCN 4.0 WS 2 ГБ 75 Вт
0.5
#145 AMD FirePro W7000 GCN 1.0 WS 4 ГБ 150 Вт
0.4
#146 AMD FirePro W5100 GCN 2.0 WS 4 ГБ 50 Вт
0.4
#147 AMD FirePro W4300 GCN 2.0 WS 4 ГБ 50 Вт
0.4
#148 AMD FirePro W6150M GCN 2.0 WS 4 ГБ —
0.4
#149 AMD Radeon Pro 450 GCN 4.0 WS 2 ГБ 35 Вт
0.4
#150 AMD FirePro M6100 GCN 2.0 WS 2 ГБ —
0.4
#151 AMD FirePro W6170M GCN 2.0 WS 2 ГБ —
0.4
#152 NVIDIA Quadro NVS 450 WS 0.25 ГБ 35 Вт
0.4
#153 AMD Radeon Pro WX 2100 GCN 4.0 WS 2 ГБ 35 Вт
0.3
#154 AMD FirePro W5170M GCN 1.0 WS 2 ГБ —
0.3
#155 AMD FirePro V9800 TeraScale 2 WS 4 ГБ 250 Вт
0.3
#156 AMD FirePro V9800P TeraScale 2 WS 4 ГБ 225 Вт
0.3
#157 AMD FirePro W5130M GCN 1.0 WS 2 ГБ —
0.3
#158 AMD FirePro S7000 GCN 1.0 WS 4 ГБ 150 Вт
0.3
#159 AMD FirePro W4000 GCN 1.0 WS 2 ГБ 75 Вт
0.3
#160 AMD FirePro W5000 GCN 1.0 WS 2 ГБ 75 Вт
0.3
#161 AMD FirePro R5000 GCN 1.0 WS 2 ГБ 150 Вт
0.3
#162 AMD FirePro W5000 DVI GCN 1.0 WS 2 ГБ 75 Вт
0.3
#163 AMD FirePro V8800 TeraScale 2 WS 2 ГБ 208 Вт
0.3
#164 AMD FirePro W4170M GCN 1.0 WS 2 ГБ —
0.3
#165 AMD FirePro W4190M GCN 1.0 WS 2 ГБ —
0.3
#166 AMD FirePro V7900 TeraScale 3 WS 2 ГБ 150 Вт
0.2
#167 AMD FirePro V7900 SDI TeraScale 3 WS 2 ГБ 150 Вт
0.2
#168 AMD FirePro W4100 GCN 1.0 WS 2 ГБ 50 Вт
0.2
#169 AMD FirePro V7800 TeraScale 2 WS 2 ГБ 150 Вт
0.2
#170 AMD FirePro V7800P TeraScale 2 WS 2 ГБ 138 Вт
0.2
#171 AMD FirePro M4170 GCN 1.0 WS 1 ГБ —
0.2
#172 AMD FirePro M5100 GCN 1.0 WS 2 ГБ —
0.2
#173 AMD FirePro M6000 GCN 1.0 WS 2 ГБ 43 Вт
0.2
#174 NVIDIA Quadro P400 Pascal Сервер 2 ГБ 30 Вт
0.2
#175 AMD FirePro M8900 TeraScale 2 WS 2 ГБ 75 Вт
0.2
#176 AMD FirePro W600 GCN 1.0 WS 2 ГБ 75 Вт
0.2
#177 AMD FirePro S4000X GCN 1.0 WS 2 ГБ 45 Вт
0.2
#178 AMD FirePro M4100 GCN 1.0 WS 2 ГБ —
0.2
#179 AMD FirePro M4000 GCN 1.0 WS 1 ГБ 33 Вт
0.1
#180 AMD FirePro W2100 GCN 1.0 WS 2 ГБ 26 Вт
0.1
#181 AMD FirePro M4150 GCN 1.0 WS 1 ГБ —
0.1
#182 AMD FirePro V7760 TeraScale WS 1 ГБ 76 Вт
0.1
#183 AMD FirePro V7770 TeraScale WS 1 ГБ 76 Вт
0.1
#184 AMD FirePro M7820 TeraScale 2 WS 1 ГБ 50 Вт
0.1
#185 AMD FirePro V5800 TeraScale 2 WS 1 ГБ 74 Вт
0.1
#186 AMD FirePro V5800 DVI TeraScale 2 WS 1 ГБ 74 Вт
0.1
#187 AMD FirePro V5900 TeraScale 3 WS 2 ГБ 75 Вт
0.1
#188 AMD FirePro V8750 TeraScale WS 2 ГБ 151 Вт
0.1
#189 AMD FirePro V4900 TeraScale 2 WS 1 ГБ 75 Вт
0.1
#190 AMD FirePro V3900 TeraScale 2 WS 1 ГБ 50 Вт
0.1
#191 AMD FirePro V8700 TeraScale WS 1 ГБ 151 Вт
0.1
#192 AMD FirePro V4800 TeraScale 2 WS 1 ГБ 69 Вт
0.1
#193 AMD FirePro M5950 TeraScale 2 WS 1 ГБ 35 Вт
0.1
#194 AMD FireGL V8650 TeraScale WS 2 ГБ —
0.1
#195 AMD FirePro M5800 TeraScale 2 WS 1 ГБ 26 Вт
0.1
#196 AMD FirePro M2000 TeraScale 2 WS 1 ГБ 33 Вт
0.1
#197 AMD FireGL V8600 TeraScale WS 1 ГБ 159 Вт
0.1
#198 AMD FirePro RG220 TeraScale WS 0.5 ГБ 35 Вт
0.1
#199 AMD FirePro RG220A TeraScale WS 0.5 ГБ 35 Вт
0.1
#200 AMD FireGL V7700 TeraScale WS 0.5 ГБ —
0.1

Подробности расчёта — страница методики.