Тайваньская MediaTek приступила к разработке своих флагманских продуктов с использованием генеративной модели искусственного интеллекта Llama 2 от Meta. Компании объявили о сотрудничестве. В отличие от большинства нейросетей, основанных на облачных вычислениях, Llama 2 позволит приложениям генеративного ИИ запускаться непосредственно на устройстве.
Такой принцип предоставляет ряд преимущества, включая более плавную работу, повышенную конфиденциальность, лучшую безопасность, меньшую задержку, работу в зонах с низким уровнем покрытия и экономию средств.
MediaTek ожидает, что приложения генеративного ИИ с поддержкой Llama 2 будут доступны с использованием нового чипсета, релиз которого состоится в конце 2023 года.
Флагманское решение будет оснащено оптимизированным ПО для работы с нейросетью Meta и обновлённым APU с магистральным ускорением Transformer. Это приведёт к повышению производительности LLM и AIGC при использовании меньшего пространства и пропускной способности DRAM.
Растущая популярность генеративного ИИ ведёт к цифровой трансформации. MediaTek сообщила о стремлении предоставлять разработчикам и пользователям Llama 2 необходимые инструменты для инноваций в области искусственного интеллекта.
Старший корпоративный вице-президент и главный менеджер бизнес-подразделения беспроводных технологий MediaTek заявил, что партнёрство с Meta позволит предоставлять аппаратное и программное обеспечение с гораздо большими возможностями в периферийных устройствах, чем когда-либо прежде.
Новый флагманский чипсет MediaTek — Dimensity 9200+ — демонстрирует значительный прирост производительности. К концу должно выйти следующее поколение решений компании, которые, вероятно, будут иметь ещё больше улучшений.
Meta совместно с Microsoft представила Llama 2 в июле текущего года. ИИ-модель разработали специально для работы с несколькими чат-ботами, включая ChatGPT от OpenAI, Bing Chat и другие системы. Llama 2 отличается от Llama 1 тем, что её предварительно обучили на большем объёме данных . Также модель имеет улучшенную архитектуру.
Ранее основной конкурент MediaTek компания Qualcomm объявила, что развернёт Llama 2 на своих флагманских смартфонах в 2024 году.
Meta Platforms*, а также принадлежащие ей Facebook** и Instagram**:
* признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России.
Источник новости: habr.com
