AMD AMD Instinct MI300X (Aqua Vanjaram)

192 ГБ · 2023
Сервер

AMD Instinct MI300X — это специализированный ускоритель на базе архитектуры CDNA 3, выпущенный в 2023 году для дата-центров. Карта не имеет видеовыходов и предназначена исключительно для вычислений. Главная фишка здесь — 192 ГБ памяти HBM3 с пропускной способностью 5.3 ТБ/с. Это позволяет запускать огромные веса LLM, которые раньше требовали связки из нескольких RTX 6000 Ada. В сегменте бюджетных решений для AI-инференса она выглядит странно, так как стоит дорого, но по объему памяти обходит почти всех. Чип построен на чиплетах. Память работает на шине 5120 бит. Для запуска Llama 3 70B или Qwen 2.5 72B в полном квантовании вам не нужно дробить модель на части, потому что всего 192 ГБ вмещают её целиком. В 2026 году конкуренция в этом tier представлена специализированными ускорителями от NVIDIA, такими как L40S, или более старыми решениями вроде A100. Хотя MI300X выигрывает по объему VRAM, она требует специфического ПО под ROCm. Если ваша задача — только инференс локальных моделей, то объем памяти оправдывает покупку. Для рендеринга или игр эта карта бесполезна. Она работает только в серверных стойках с правильным охлаждением.

Производительность по сценариям

5 component-баллов — сильные стороны и слабости карты в разных задачах.

Шкала 0-100. Топовая карта в каждом сценарии = 100. Кликни строку — увидишь полный топ-100 в этой категории. Подробнее — методика.

Характеристики

Чип

Частоты

Память

Объём
192 ГБ

Питание и форм-фактор

Выходы и интерфейс

Интерфейс
PCIe 5.0 ×16

API и технологии

Соседи по рейтингу

Под какие задачи подходит

Балл 1-10 для каждого сценария — пригодность именно для этой задачи (не общий perf-rank).

4K-гейминг 1 / 10

Карта не имеет видеовыходов и драйверов для игр.

1440p 1 / 10

Использовать невозможно.

1080p 1 / 10

Использовать невозможно.

AI-инференс 9 / 10

Идеально для Llama 3 70B и крупных Qwen через ROCm.

AI-обучение 6 / 10

Подходит для fine-tuning средних моделей при наличии инфраструктуры.

3D-рендер 1 / 10

Драйверы не поддерживают ускорение Cycles в этом чипе.

Видеомонтаж 1 / 10

Аппаратного декодера для монтажа нет.

Офис 1 / 10

Не предназначена для вывода изображения на монитор.

Стоит ли покупать в 2026?

Стоит ли брать MI300X в 2026 году? Ответ зависит от ваших задач. Если вы строите локальный сервер для работы с тяжелыми языковыми моделями, то это отличный выбор. Объем памяти в 192 ГБ позволяет держать в активном состоянии веса моделей, которые не влезут даже в топовые потребительские карты. Это важно, потому что скорость инференса напрямую зависит от того, помещается ли модель в VRAM целиком. Если же вам нужен универсальный инструмент для обучения и рендеринга, лучше смотреть на NVIDIA. Альтернатива в том же tier — это L40S, которая имеет больше преимуществ в экосистеме CUDA. MI300X проигрывает ей в универсальности, но выигрывает в чистом объеме памяти за меньшие деньги. По сравнению с прошлым поколением Instinct MI250, здесь колоссальный скачок в производительности на ватт и поддержке FP8. Не пытайтесь поставить её в обычный ПК. Без серверного корпуса и продуманного обдува чип перегреется за считанные секунды. Это узкоспециализированный инструмент для тех, кто понимает специфику ROCm.

Обновлено редакцией: 2026-05-17.

Плюсы и минусы

Сильные стороны

  • 192 ГБ сверхбыстрой HBM3 памяти
  • Пропускная способность 5.3 ТБ/с
  • Поддержка огромных LLM целиком
  • Архитектура CDNA 3 для вычислений

Слабые стороны

  • Отсутствие видеовыходов
  • Требуется серверное охлаждение
  • Сложная настройка софта ROCm
  • Нужна специализированная инфраструктура

Часто задаваемые вопросы

Можно ли запустить Stable Diffusion на этой карте?

Да, через Docker-контейнеры и среду ROCm. Вам потребуется настроить окружение под Linux, так как Windows не поддерживает этот ускоритель напрямую. Скорость генерации будет высокой благодаря пропускной способности 5.3 ТБ/с.

Подойдет ли мой обычный блок питания?

Нет, карта требует серверных интерфейсов питания и специфических условий. TDP здесь очень высокий, а стандартные разъемы ATX могут не подойти по конфигурации линий. Нужна специализированная серверная платформа.

Чем она лучше NVIDIA A100?

MI300X предлагает 192 ГБ памяти против 80 ГБ у стандартной A100. Это позволяет работать с гораздо более крупными нейросетями без использования технологий квантования, которые сильно снижают точность ответов модели.

Будет ли она работать в домашнем ПК?

В обычном корпусе нет места для её охлаждения. У неё нет видеовыходов, поэтому вы не увидите картинку на мониторе без второй, графической карты. Это чисто вычислительный модуль.