Как правило, флагманские GPU-серверы сегодня используют модули ускорителей, выполненные либо в форм-факторе SXM (NVIDIA), либо OAM (все остальные). Однако есть нюансы.
Такая компоновка помогает бороться с огромным тепловыделением, но, в силу конструкции самих модулей, не обеспечивает максимальной вычислительной плотности — как правило, каждый такой сервер вмещает не более 8 ускорителей.
Источник здесь и далее: Supermicro via TechPowerUp
Компания Supermicro, один из крупнейших поставщиков серверного оборудования, анонсировала новинку — платформу SYS-322GB-N, способную вместить до 18 ускорителей, занимая при этом в высоту всего 3U. Чтобы достичь таких показателей, Supermicro обратила внимание на традиционную, хотя и не столь быструю, шину PCI Express.
За счёт этого разработчикам SYS-322GB-N удалось довести число полноразмерных двухслотовых ускорителей до 10, а при использовании плат одинарной толщины — до 18, что должно быть достаточно для запуска серьёзных LLM-сценариев или для организации вывода изображения на 64 монитора с общим разрешением 4680 × 12 960 пикселей.
Пока компания не разглашает информацию о том, какие ускорители поддерживаются новинкой, упоминаются только NVIDIA и AMD. В случае с NVIDIA, вероятно, речь идёт о платах L4, которые являются универсальными ускорителями с неплохой производительностью — 242 Тфлопс в формате FP16, 485 Топс в режиме INT8.
Таким образом, 18 ускорителей способны в пределе обеспечить 4,35 Пфлопс или свыше 8,7 Петаопс. Помимо этого, L4 может обрабатывать 130 видеопотоков в формате AV1 с разрешением 720p30 и имеет 24 Гбайт видеопамяти с пропускной способностью 300 Гбайт/с.
Не вполне ясно, как в новинке реализована поддержка PCI Express. Несмотря на использование двух процессоров Intel Xeon 6900, их совокупные 192 линии PCIe явно недостаточны для организации 20 слотов x16. Возможно, система переводит слоты в режим x8, но, скорее всего, используются современные чипы-коммутаторы PCIe 5.0, например, XConn Apollo.
Система поддерживает установку до 6 Тбайт оперативной памяти, в том числе модулей MRDIMM DDR5-8800. Дисковая подсистема может вмещать 14 NVMe-накопителей в формате E1.S или 6 традиционных SSD в формате U.2. С учётом энергопотребления современных двухслотовых GPU, система питания способна обеспечивать мощность в районе 5,5 КВт.
Новинка будет демонстрироваться на мероприятии MWC Las Vegas в павильоне 518. Там же Supermicro представит другие серверные новинки, в том числе серверы серии X14 на базе процессоров Intel Xeon 6 и AMD EPYC 8004.
Источник новости: servernews.ru
