Project Digits способен обрабатывать модели ИИ с объемом до 200 миллиардов параметров. Для пользователей с более высокими требованиями доступна возможность объединить две системы, что позволяет работать с моделями до 405 миллиардов параметров — эквивалентно размерам лучших современных моделей, таких как Llama 3.1. Устройство включает 128 ГБ унифицированной памяти, что значительно превосходит возможности стандартных ноутбуков, и хранилище объемом до 4 ТБ NVMe.
«ИИ станет мейнстримом в каждом приложении для каждой отрасли. С Project Digits суперчип Grace Blackwell станет доступен миллионам разработчиков», — сказал гендиректор Nvidia Дженсен Хуанг.
В основе устройства лежит суперчип GB10 Grace Blackwell, он предлагает производительность до 1 петафлопа с точностью FP4, что позволяет ускорять сложные вычисления благодаря использованию приближенных расчетов. Он оснащен ядрами CUDA последнего поколения и тензорными ядрами пятого поколения, которые подключены через NVLink-C2C к процессору Grace с 20 энергоэффективными ядрами на архитектуре Arm. MediaTek также участвовала в разработке чипа, обеспечивая его энергоэффективность и оптимальную производительность.
Пользователям Project Digits предоставляется доступ к обширной библиотеке программного обеспечения Nvidia для ИИ: комплекты разработки, инструменты управления и предварительно обученные модели, доступные через каталог Nvidia NGC.
Система работает на основе ОС Nvidia DGX, построенной на Linux, и поддерживает популярные инструменты для работы с ИИ, такие как PyTorch, Python и Jupyter. Разработчики могут настраивать свои модели с использованием фреймворка Nvidia NeMo, а также ускорять задачи анализа данных с помощью библиотек RAPIDS.
Project Digits предоставляет возможность разрабатывать и тестировать модели ИИ локально, используя высокопроизводительную архитектуру Grace Blackwell и ПО Nvidia AI Enterprise. После завершения разработки модели можно развертывать в облаке или на серверной инфраструктуре с использованием тех же программных инструментов, что делает систему универсальной и подходящей для задач любой сложности.
Стоимость Project Digits - от $3000. Читайте также Можно ли превратить Open Source в двигатель российской IT-разработки? О причинах, препятствующих созданию крупных продуктов в российском Open Source, о локальных успехах в этом направлении и путях развития сообщества рассказывает IT-World.
Источник новости: www.it-world.ru
