AMD громко заявила о себе в гонке ИИ-железа, представив серию Instinct MI350 на Hot Chips 2025. Построенные на архитектуре CDNA 4 и 3-нм + 6-нм 3D-чиплетах, новые ускорители рассчитаны на работу с самыми тяжёлыми AI-нагрузками и напрямую конкурируют с топовыми решениями NVIDIA.
Причина появления серии проста: модели ИИ растут с бешеной скоростью, и нужно было резко увеличить память и добавить поддержку новых форматов данных. В итоге MI350 справляется даже с LLM более 4000B параметров благодаря 288 ГБ HBM3e и колоссальной пропускной способности памяти.
В линейке два основных варианта. MI350X — воздушное охлаждение, до 1000 Вт и частота до 2.2 ГГц. MI355X — вариант для дата-центров с жидкостным охлаждением, до 1400 Вт и 2.4 ГГц. Оба построены на базе 185 млрд транзисторов и используют 8 вычислительных XCD-чиплетов по 3-нм техпроцессу и два I/O-чиплета по 6-нм.
По памяти — полный разгон: восемь стэков HBM3e, 288 ГБ, до 8 ТБ/с пропускной способности. Добавлена новая 256 МБ Infinity Cache и мощнейшая связка через Infinity Fabric (5.5 ТБ/с). В вычислениях MI355X достигает до 80.5 PFLOPs в FP8 и 20 PFLOPs в FP4/FP6 — четырёхкратный прирост поколения. На практике это видно: в инференсе Llama 3.1 405B ускоритель показывает 35-кратный прирост по сравнению с MI300.
Гибкость тоже впечатляет. GPU и память можно делить на независимые блоки, что позволяет одновременно запускать до восьми моделей по 70B параметров. Платформа масштабируется до восьми ускорителей в одной плате UBB и стыкуется с новыми процессорами EPYC 5-го поколения и сетевыми адаптерами Pensando.
Сравнение с конкурентами показывает: против NVIDIA GB200 у AMD в 1.6 раза выше память, в 2 раза выше FP64, при этом паритет по FP8. А если смотреть на прошлое поколение MI300, то скачок в производительности просто гигантский.
Выход MI350 ожидается в третьем квартале 2025 года через партнёров AMD. А уже в 2026-м компания планирует представить серию MI400. Но прямо сейчас MI350 — это демонстрация силы AMD: ускоритель, созданный под новые реалии триллионных параметров в AI.