Модель Gemma 3 мультимодальная, то есть может обрабатывать текст и изображения, и имеет окно контекста размером 128 тысяч токенов с поддержкой более 140 языков.
В Ollama она доступна в четырех вариантах с 1, 4, 12 и 27 миллиардами параметров и превосходно справляется с такими задачами, как ответы на вопросы, резюмирование и логическое мышление, в то время как их компактный дизайн позволяет развертывание на устройствах с ограниченными ресурсами.
Чтобы использовать эту модель даже в конфигурации с 27 миллиардов параметров, вам нужна всего одна видеокарта с 24 гигабайтами видеопамяти. Это позволяет достичь производительности, сравнимой с моделями с сотнями миллиардов параметров.
P.S. Для работы Gemma 3 требуются Ollama версии 0.6 или более поздней, поэтому не забудьте обновить вашу систему или сервер.
Источник новости: habr.com
