Компания AMD объявила о сотрудничестве с Unsloth, благодаря которому специализированные нейропроцессоры Ryzen AI теперь могут запускать большие языковые модели непосредственно через приложение Unsloth Desktop. По заявлению AMD, архитектура XDNA 2 стала первой архитектурой NPU, получившей поддержку в этой программе.
Интеграция использует технологии Lemonade и FastFlowLM, позволяющие выполнять инференс искусственного интеллекта непосредственно на нейропроцессоре, не полагаясь на вычислительные мощности центрального или графического процессора.
Кроме того, пользователи могут подключать к Unsloth Desktop более 100 приложений с ИИ-агентами через API, совместимый с OpenAI. Среди поддерживаемых инструментов AMD перечисляет Hermes Agent, OpenClaw, Open WebUI, Cline, OMP и Visual Studio Code. Все они могут обращаться к локально запущенным моделям без необходимости создавать собственные механизмы инференса для NPU.
В качестве демонстрации AMD запустила Qwen3.6-35B-A3B — модель архитектуры Mixture-of-Experts с 35 миллиардами параметров. Вычисления выполнялись на выделенном NPU с использованием Unsloth Desktop и FastFlowLM.
Однако для работы такой крупной модели потребуется значительный объём оперативной памяти. По данным AMD, запуск Qwen3.6 с полным контекстом требует приблизительно 28 ГБ памяти, доступной нейропроцессору. Поскольку Windows по умолчанию выделяет 50% общей системной памяти, компания рекомендует конфигурацию с 64 ГБ ОЗУ. Подходящие модели можно выбирать через специальный фильтр NPU в библиотеке Unsloth Desktop.
Главным преимуществом подобного подхода AMD называет энергоэффективность. Перенос поддерживаемых ИИ-задач на NPU позволяет снизить нагрузку на CPU и GPU, освобождая их ресурсы для других приложений. Это также открывает возможности для работы локальных ИИ-агентов на ноутбуках с меньшим энергопотреблением.
Новый анонс расширяет сотрудничество AMD и Unsloth, в рамках которого ещё в июле была добавлена поддержка графических процессоров Radeon, Ryzen AI и Instinct.
Источник новости: www.playground.ru

