Компания OPPO впервые реализовала архитектуру «смеси экспертов» (Mixture of Experts (MoE)) на устройствах. Она примерно на 40% повышает эффективность ИИ обработки и открывает новые возможности для более продвинутых и гибких решений, не требующих соединения с сервером. Как отмечают в компании, все больше задач выполняется непосредственно на устройстве пользователя. Проблема заключается в том, что крупные ИИ-модели требуют значительных вычислительных ресурсов, что влияет на производительность, особенно на моделях с ограниченными аппаратными возможностями. Архитектура «смеси экспертов» активирует специализированные подмодели («экспертов») для выполнения конкретных задач, что позволяет значительно повысить эффективность обработки запроса и снизить потребление вычислительных ресурсов и объемы передачи данных. Лабораторные испытания показывают, что такая архитектура, интегрированная в устройство, ускоряет выполнение задач ИИ примерно на 40%, в то же время снижая требования к ресурсам и повышая энергоэффективность.
Снижая вычислительные затраты, данная архитектура позволяет выполнять сложные задачи на большем количестве устройств — от флагманских смартфонов, до доступных моделей, что способствует популяризации и распространению ИИ. В настоящее время у OPPO более 5 860 патентных заявок в области ИИ, компания активно инвестирует в исследования и разработки в этой сфере. Создание собственного центра искусственного интеллекта в 2024 году стало важным шагом на пути к объединению усилий в исследовании этого направления.
Источник новости: mobile-review.com
