категории | RSS

Компания AMD объявила о сотрудничестве с Unsloth, благодаря которому специализированные нейропроцессоры Ryzen AI теперь могут запускать большие языковые модели непосредственно через приложение Unsloth Desktop. По заявлению AMD, архитектура XDNA 2 стала первой архитектурой NPU, получившей поддержку в этой программе.

Интеграция использует технологии Lemonade и FastFlowLM, позволяющие выполнять инференс искусственного интеллекта непосредственно на нейропроцессоре, не полагаясь на вычислительные мощности центрального или графического процессора.

Кроме того, пользователи могут подключать к Unsloth Desktop более 100 приложений с ИИ-агентами через API, совместимый с OpenAI. Среди поддерживаемых инструментов AMD перечисляет Hermes Agent, OpenClaw, Open WebUI, Cline, OMP и Visual Studio Code. Все они могут обращаться к локально запущенным моделям без необходимости создавать собственные механизмы инференса для NPU.

В качестве демонстрации AMD запустила Qwen3.6-35B-A3B — модель архитектуры Mixture-of-Experts с 35 миллиардами параметров. Вычисления выполнялись на выделенном NPU с использованием Unsloth Desktop и FastFlowLM.

Однако для работы такой крупной модели потребуется значительный объём оперативной памяти. По данным AMD, запуск Qwen3.6 с полным контекстом требует приблизительно 28 ГБ памяти, доступной нейропроцессору. Поскольку Windows по умолчанию выделяет 50% общей системной памяти, компания рекомендует конфигурацию с 64 ГБ ОЗУ. Подходящие модели можно выбирать через специальный фильтр NPU в библиотеке Unsloth Desktop.

Главным преимуществом подобного подхода AMD называет энергоэффективность. Перенос поддерживаемых ИИ-задач на NPU позволяет снизить нагрузку на CPU и GPU, освобождая их ресурсы для других приложений. Это также открывает возможности для работы локальных ИИ-агентов на ноутбуках с меньшим энергопотреблением.

Новый анонс расширяет сотрудничество AMD и Unsloth, в рамках которого ещё в июле была добавлена поддержка графических процессоров Radeon, Ryzen AI и Instinct.



Источник новости: www.playground.ru

Bot
2026-11-19T20:34:02Z

Здесь находятся
всего 0. За сутки здесь было 0 человек