Opera Software представила функцию в Opera, позволяющую загружать и использовать большие языковые модели (БЯМ) локально на своих ПК. Опция доступна пользователям Opera One, которые получают обновления для разработчиков. В браузере можно воспользоваться более чем 150 моделями из 50 семейств, включая Llama от Meta*, Gemma от Google, Vicuna, Mistral AI и другие.
Исполнительный вице-президент Opera Software Кристиан Колондра заявил, что внедрение локальных БЯМ позволяет компании начать изучение способов создания новых решений в быстро развивающейся сфере искусственного интеллекта.
Opera Software указывает, что новые функции стали частью AI Feature Drops Program. Компания пообещала хранить данные пользователей локально на их устройствах, что позволит использовать генеративный ИИ без необходимости отправлять информацию на сервер и обеспечить конфиденциальность.
Разработчик использует платформу с открытым исходным кодом Ollama для локального запуска моделей на компьютерах пользователей. Каждый вариант модели занимает от 2 до 10 ГБ свободного места в системе.
Компания запустила Opera One в прошлом году. Opera Software пытается стать ведущим браузером, ориентированным на ИИ. Ранее компания представила чат-бот Aria. Уникальные и инновационные функции должны помочь Opera увеличить свою долю на рынке.
По данным Statcounter, по состоянию на март 2024 года доля Opera на рынке браузеров составляла 3,16% — пятое место после Chrome, Edge, Safari и Firefox.
Чтобы воспользоваться новыми функциями Opera, нужно обновить браузер до последней версии Opera Developer и активировать локальные БЯМ на своём устройстве. После этого модели заменят Aria, пока пользователь не начнёт общение с чат-ботом или не включит его снова.
Источник новости: habr.com
