На CES 2025 Nvidia анонсировала Project DIGITS — суперкомпьютер для настольного использования, предназначенный для разработки ИИ-моделей. Машина оснащена суперчипом GB10 Grace Blackwell, позволяющим запускать языковые модели (LLM) объемом до 200 миллиардов параметров на одном блоке и до 405 миллиардов параметров при использовании двух соединенных блоков.
Создание и обучение языковых моделей требует значительной вычислительной мощности для обработки огромного объема данных. Количество параметров модели является ключевым показателем ее возможностей — модели с большим числом параметров, как правило, показывают лучшие результаты в тестах на рассуждение и знания.
Большинство разработчиков ИИ используют локальные видеокарты, такие как Nvidia 4090, или облачные сервисы GPU, которые обходятся дороже. Однако память Nvidia 4090 ограничивает работу с моделями объемом примерно до 30 миллиардов параметров, в то время как новые открытые модели, такие как Grok-1 от xAI (314 миллиардов параметров), значительно превышают этот предел.
Проект DIGITS легко справляется с такими объемами данных в двухблочной конфигурации благодаря сетевым адаптерам Nvidia ConnectX. Каждый блок включает:
20-ядерный ARM-процессор
GPU Blackwell от Nvidia с производительностью 1 PFLOP для вычислений FP4
128 ГБ оперативной памяти DDR5X
4 ТБ хранилища NVMe
Чипы на базе Blackwell GPU поддерживают FP4, что позволяет быстрее обрабатывать данные за счет сокращения битности вычислений. Хотя переход с FP16 или FP8 на FP4 снижает точность отдельных операций, Nvidia оптимизировала вычисления таким образом, чтобы конечная точность вывода LLM оставалась на уровне более высоких форматов.
Главное преимущество Project DIGITS — возможность легкого переноса проектов с локальной системы в облако благодаря архитектуре Grace Blackwell, которая совместима с платформой Nvidia AI Enterprise.
Запуск Project DIGITS запланирован на май 2025 года. Стоимость одного блока составит более $3000.
Источник новости: shazoo.ru
