Вместе с новыми серверными процессорами сегодня компания AMD формально анонсировала ускоритель Instinct MI300X. Сравнительно с представленным в начале года Instinct MI300 (к слову, он переименован в MI300A) у новинки нет процессорных ядер, зато количество высокоскоростной памяти HBM3 увеличено до 192 ГБ.
Пока AMD не раскрывает количество потоковых процессоров и уровень вычислительной мощности, делая акцент на производительности подсистемы памяти. Пропускная способность памяти составляет 5,2 ТБ/с. В одной системе могут объединятся до восьми Instinct MI300X, обеспечивая 1,5 ТБ памяти. Для связи ускорителей задействуется скоростная шина Infinity Fabric со скоростью работы до 896 ГБ/с.
Новинка предназначена задач, связанных с генеративными нейросетями, в частности большими языковыми моделями. Фактически это конкурент NVIDIA H100 NVL.
Источник новости: www.playground.ru
