IBM представила модели Granite 3.0, закладывая основу для агентного ИИ

IBM представила семейство моделей искусственного интеллекта Granite 3.0 в рамках ежегодного мероприятия TechXchange. Компания уверяет, что эти модели способны превосходить или совпадать по производительности с эквивалентами аналогичного размера в академических и отраслевых тестах. В отличие от OpenAI, чьи модели имеют проприетарную лицензию, семейство Granite 3.0 выпустили под разрешительной лицензией Apache 2.0.

Линейка новых ИИ-моделей IBM включает в себя множество вариантов:

Общего назначения: Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base и Granite 3.0 2B Base;

Ограничения и безопасность: Granite Guardian 3.0 8B и Granite Guardian 3.0 2B;

MoE: Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base и Granite 3.0 1B-A400M Base.

IBM отмечает, что модели Granite 3.0 8B и 2B станут идеальными для задач корпоративного ИИ. Они более надёжны и устойчивы, поэтому способны выполнять более широкий набор задач. Эти модели обеспечивают высокую производительность для таких задач, как генерация ответов пользователю с учётом дополнительно найденной релевантной информации, классификация, суммирование, извлечение сущностей и использование инструментов.

После развёртывания эти модели можно точно настроить с корпоративными данными для интеграции в различные бизнес-среды и рабочие процессы.

Семейство Granite 3.0 можно загрузить на HuggingFace по лицензии Apache 2.0. Модели Granite Guardian 3.0 8B и 2B также доступны для коммерческого использования через платформу watsonx от IBM. Кроме того, выборка моделей Granite 3.0 появится в микросервисах NIM от Nvidia и Vertex AI Model Garden от Google Cloud.

Возможности кода Granite можно использовать через расширение Visual Studio Code — IBM Granite.Code. Расширение поможет в программировании на многих языках, включая C, C++, Go, Java и Python.

Линейка Granite 3.0 закладывает основу для усилий IBM в области агентного ИИ. Модель Granite 3.0 8B имеет продвинутые возможности рассуждения, высоко структурированный шаблон чата и стиль запросов, что позволяет реализовывать рабочие процессы с использованием инструментов. IBM обещает больше решений в сфере агентного ИИ в следующем году.