В Windows появится новый помощник с искусственным интеллектом, который сможет изменять системные настройки с помощью команд на естественном языке. Новая языковая модель Мu работает полностью автономно на специализированных чипах с искусственным интеллектом, но пока она доступна только небольшой группе пользователей.
Вместо того чтобы копаться в меню, пользователи могут вводить такие команды, как «Увеличить яркость экрана», или описывать проблемы, например «Мой указатель мыши слишком маленький». Агент встроен в существующее поле поиска настроек и, по словам Microsoft, отвечает менее чем за полсекунды.Вместо того чтобы использовать меню, Microsoft стремится распознавать команды, сформулированные на естественном языке
В основе работы ассистента лежит новая языковая модель под названием Мu, которую Microsoft разработала специально для этой задачи. Модель содержит 330 миллионов параметров и использует архитектуру «кодировщик-декодировщик», которая, по словам Microsoft, намного эффективнее, чем модели, использующие только декодер, которые обычно применяются сегодня.
В этой системе кодировщик обрабатывает вводимые пользователем данные один раз и преобразует их во внутреннее представление. Затем декодировщик генерирует соответствующие команды Windows. По словам Microsoft, такое разделение сокращает время отклика на 47% и повышает скорость обработки в 4,7 раза по сравнению с аналогичными моделями.Архитектура кодировщика-декодировщика Mus позволяет значительно сократить время вывода по сравнению с подходом, использующим только декодировщик, при длине последовательности от 512 до 8192 токеновПолностью локальное выполнение на чипах NPU
Mu полностью работает на нейронных процессорах (NPU), которые используются в ПК с Copilot+. Эти специализированные чипы ИИ оптимизированы для задач машинного обучения и позволяют модели обрабатывать более 100 токенов в секунду. По словам Microsoft, система может обрабатывать более 200 токенов в секунду на ноутбуке Surface Laptop 7.
Чтобы оптимизировать Mu для аппаратного обеспечения NPU, Microsoft использовала квантование после обучения, преобразуя веса модели из чисел с плавающей запятой в 8-битные и 16-битные целые числа. Это снижает потребление памяти и увеличивает скорость обработки.Обучен на 3,6 миллионах примеров
Microsoft начала с обучения Mu на сотнях миллиардов обучающих токенов, а затем извлекла знания из более крупных, но всё ещё небольших моделей Phi. Для агента конкретных настроек Microsoft использовала 3,6 миллиона обучающих примеров — в том числе синтетических — для расширения охвата с примерно 50 до сотен настроек Windows.
Система лучше всего работает с более длинными и понятными запросами. Для коротких или неоднозначных команд в поле поиска по-прежнему отображаются стандартные результаты поиска. Например, команда «Увеличить яркость» может вызвать проблемы, если подключено несколько мониторов.Доступно только для Windows Insiders с Copilot+
Microsoft собирает отзывы участников программы Windows Insiders, чтобы улучшить систему. В настоящее время основное внимание уделяется наиболее часто используемым настройкам, а поддержка более сложных задач запланирована на будущее.
Пока неизвестно, когда эта функция будет доступна всем пользователям Windows. Поскольку она зависит от аппаратного обеспечения NPU, которое есть только в последних моделях ПК с Copilot+, сначала она будет доступна ограниченному числу пользователей. Чтобы попробовать эту функцию, пользователям также необходимо зарегистрироваться в канале разработчиков.
Microsoft сигнализирует о переходе к компьютерам, которыми можно управлять с помощью естественного языка. Ранее компания демонстрировала экспериментальные системы агентов, которые взаимодействуют с графическими пользовательскими интерфейсами с помощью мультимодальных языковых моделей. Обучение модели для выполнения очень конкретной задачи, как в случае с Mu, может быть менее гибким, но оказывается гораздо более эффективным.
По ссылке вы можете получить 100 000 бесплатных токенов для первых задач на BotHub и уже сейчас начать работать!
Источник
Источник новости: habr.com
