Изображение: Nvidia
Nvidia заявляет, что новый графический процессор B200 обеспечивает до 20 петафлопс мощности FP4 за счет 208 миллиардов транзисторов. Кроме того, в нем говорится, что GB200, сочетающий в себе два таких графических процессора с одним процессором Grace, может обеспечить в 30 раз большую производительность для рабочих нагрузок вывода LLM, а также потенциально быть существенно более эффективным. По словам Nvidia, это «снижает стоимость и энергопотребление до 25 раз» по сравнению с H100.
По словам Nvidia, для обучения модели с 1,8 триллионами параметров ранее требовалось 8000 графических процессоров Hopper и 15 мегаватт мощности. Сегодня генеральный директор Nvidia заявляет, что 2000 графических процессоров Blackwell могут сделать это, потребляя всего четыре мегаватта.
Nvidia, конечно, рассчитывает, что компании закупят большие количества этих графических процессоров и поэтому устанавливают их в более крупные модели, такие как стойки GB200 NVL72 с жидкостным охлаждением.
Компания сообщает, что Amazon, Google, Microsoft и Oracle уже планируют предлагать стойки NVL72 в своих предложениях облачных сервисов.
Источник новости: www.it-world.ru
