NVIDIA DGX Spark, мини-ПК стоимостью 3999 долларов, разработанный для быстрого локального прототипирования ИИ, демонстрирует вдвое меньшую мощность и производительность, чем было заявлено.
Джон Кармак, основатель Keen Technologies, сообщил, что устройство потребляет всего около 100 Вт вместо ожидаемых 240 Вт, что приводит к падению производительности: вместо 125 терафлопс в BF16, он достигает всего около 60 терафлопс. Это особенно критично, поскольку DGX Spark, основанный на процессоре MediaTek Arm и графическом кристалле Blackwell, уже подвергался многочисленным задержкам.
Вероятно, причиной такого снижения являются проблемы с прошивкой или программным обеспечением, а также тепловое дросселирование, которое заставляет чип GB10 снижать частоту. Другой возможной причиной является то, что заявленный показатель в PetaFLOP на FP4 достигается только при условии использования структурированной разреженности, тогда как стандартные модели, которые ее отключают, работают на половину заявленной скорости. Остается неясным, исправит ли NVIDIA эти проблемы обновлением или дополнительным решением для охлаждения.
Павлик Александр
Источник новости: ru.gecid.com
