Ещё в 2019 году Microsoft выпустила Dapr с открытым исходным кодом — новую среду выполнения, упрощающую создание приложений на основе микросервисов. В то время никто ещё не говорил об агентах ИИ, но, как оказалось, в Dapr с самого начала были встроены некоторые фундаментальные строительные блоки для поддержки агентов ИИ. Это связано с тем, что одной из основных функций Dapr является концепция виртуальных акторов, которые могут получать и обрабатывать сообщения независимо от других акторов в системе.
Сегодня команда Dapr представляет Dapr Agents — свою разработку, которая помогает разработчикам создавать агентов ИИ, предоставляя для этого широкий спектр инструментов.
«Dapr предоставляет отличные возможности для использования агентов», — отметил Ярон Шнайдер, один из создателей и разработчиков Dapr. «С технической точки зрения, акторы — это простой способ запуска агентов, который позволяет масштабировать их с помощью состояния и эффективно использовать ресурсы. Это замечательно, но всё же необходимо написать много бизнес-логики. Сохранение состояния и управление им — это только часть задачи. Многие люди могут выбрать рабочий процесс или фреймворк для акторов, но им всё равно придётся приложить немало усилий, чтобы написать логику агента с другой стороны. Существует множество фреймворков для агентов, но они не обладают таким уровнем оркестрации и сохранения состояния, как Dapr».
Dapr Agents был создан на основе Floki, популярного проекта с открытым исходным кодом, который расширил Dapr для использования в качестве ИИ-агента. Поговорив с разработчиками проекта, в том числе с исследователем ИИ из Microsoft Роберто Родригесом, обе команды решили объединить проект с Dapr, чтобы обеспечить преемственность новой платформы агентов.
Марк Фасселл, соавтор и разработчик Dapr, отметил, что агентные системы и связанная с ними терминология представляют собой ещё один способ описания «распределённых систем». «Вместо того чтобы называть их микросервисами, теперь мы можем использовать термин «агенты», — пояснил Фасселл. — Это связано с тем, что между ними можно разместить LLM».
Чтобы эффективно координировать работу этих агентов, вам нужен механизм оркестрации и сохранение состояния, утверждает команда. Именно это и обеспечивает Dapr. Отчасти это связано с тем, что акторы Dapr должны быть чрезвычайно эффективными и запускаться за миллисекунды при поступлении сообщения (и отключаться с сохранением состояния, когда их работа выполнена).
Прямо сейчас Dapr Agents могут взаимодействовать с большинством популярных поставщиков моделей. К ним относятся AWS Bedrock, OpenAI, Anthropic, Mistral и Hugging Face. Поддержка локальных LLM появится очень скоро.
Помимо взаимодействия с этими моделями, поскольку Dapr-агенты расширяют существующую платформу Dapr, разработчики также получают возможность определять список инструментов, которые агент может использовать для выполнения заданной задачи.
В настоящее время Dapr Agents поддерживает Python, поддержка .NET появится в ближайшее время, также как и Java, javascript и Go.
Источник
Источник новости: habr.com