Компания Intel опубликовала в открытом доступе новые библиотеки, которые позволят разработчикам использовать встроенные в новые процессоры Intel NPU для аппаратного ускорения работы софта с машинным обучением. Также Intel открыла исходных код всех этих библиотек для желающих что-либо улучшить.
Разработчик Тони Монгколсмай уже запустил на NPU в новом ноутбуке MSI Prestige 16 AI языковую модель, которая полноценно работала без доступа к интернету и использовала именно выделенное "железо" NPU.
Больше подробностей об опубликованных библиотеках вы можете найти на Github.
Источник новости: www.goha.ru