Исследовательская лаборатория PrismML представила компактную языковую модель для умных очков на чипах Qualcomm. На мероприятии Snapdragon Summit показали 1-битную модель Bonsai LLM, которая может работать непосредственно на умных очках на базе Snapdragon AR1 Gen 1.
Исследователям удалось значительно уменьшить размер ИИ-моделей без существенной потери качества. В данном случае модель стала примерно в четыре раза меньше, сохранив «почти весь уровень производительности в стандартных тестах».
Версия для очков содержит 2 млрд параметров и специально настроена для работы одновременно с изображениями и текстом.
Однако пока ни одной модели умных очков с ИИ PrismML официально не представлено.
Источник новости: www.ferra.ru
