Стартап Letta вышел из режима скрытой разработки с технологией, которая помогает ИИ-моделям запоминать пользователей и их диалоги. Созданный в известной лаборатории стартапов Университета Калифорнии в Беркли, Letta также объявил о привлечении $10 млн в начальном раунде инвестиций под руководством Астасии Майерс из Felicis, что дало ему оценку в $70 млн.
Поддержка именитых инвесторов
Letta поддерживается известными инвесторами в сфере ИИ, такими как:
Джефф Дин из Google,
Клем Деланг из Hugging Face,
Кристобаль Валенсуэла из Runway,
Роберт Нишихара из Anyscale.
Стартап был основан аспирантами Беркли — Сарой Вудерс и Чарльзом Пакером. Letta особенно ожидаема, так как является коммерческим продолжением популярного open source проекта MemGPT, разработанного в лаборатории Sky Computing Lab Беркли.
О лаборатории Sky Computing Lab
Лаборатория Sky Computing, возглавляемая профессором и соучредителем Databricks Ионом Стойкой, является преемницей лабораторий RISELab и AMPLab, которые породили такие компании, как Anyscale, Databricks и SiFive. Sky Computing Lab также создала множество популярных проектов с открытым исходным кодом, связанных с большими языковыми моделями (LLM), таких как Gorilla LLM, vLLM, структурированный язык SGLang.
История успеха MemGPT
Одним из наиболее успешных проектов стал MemGPT. Ещё до официального запуска проект привлёк огромное внимание.
Как рассказал Пакер, основатели опубликовали статью о MemGPT 12 октября 2023 года, планируя выпустить исходный код на GitHub через несколько дней. Однако кто-то случайно нашёл статью и опубликовал её на Hacker News, где она стала вирусной. Это произошло ещё до того, как команда успела официально анонсировать проект.
Интерес был вызван тем, что MemGPT решает важную проблему больших языковых моделей (LLM) — отсутствие долгосрочной памяти. Обычные модели, такие как ChatGPT, не сохраняют данные предыдущих разговоров. MemGPT управляет данными и памятью, позволяя ИИ-агентам запоминать пользователей и их взаимодействия.
После публикации на Hacker News проект оставался на первом месте в течение 48 часов, что заставило Пакера провести выходные за ответами на вопросы пользователей и подготовкой кода к релизу. Когда проект был опубликован на GitHub, он снова стал вирусным, собрав 11 тысяч звёзд и 1,2 тысячи форков.
Инвестиции и поддержка
Астасия Майерс из Felicis узнала отMemGPT именно через статью и сразу связалась с основателями. «Мы понимали, что управление данными и памятью — ключевой компонент для создания эффективных ИИ-агентов и чат-ботов», — отметила она.
Параллельно Ион Стойка помог наладить связи с такими крупными ангелами-инвесторами, как Джефф Дин и Роберт Нишихара. Пакер рассказал, что этот процесс оказался относительно лёгким, так как профессора Беркли часто имеют обширные связи в Кремниевой долине.
Коммерческая версия Letta Cloud
Хотя MemGPT уже используется, коммерческая версия Letta, названная Letta Cloud, ещё не запущена. С понедельника стартап начал приём заявок от бета-пользователей. Letta Cloud предложит облачный сервис для работы ИИ-агентов, который будет поддерживать долгосрочное хранение данных и управление состоянием через REST API, а также предоставит инструменты для разработки ИИ-агентов.
По словам Вудерс, основным применением технологии станут высокоперсонализированные и вовлекающие чат-боты. Однако есть и другие перспективные направления, например, чат-боты для пациентов с онкологическими заболеваниями, которые смогут загружать свою медицинскую историю и делиться симптомами, чтобы бот мог учиться и предоставлять рекомендации.
Конкуренция и отличие от OpenAI
MemGPT уже имеет конкурентов, таких как LangChain, который предлагает коммерческие решения в той же области. Крупнейшие компании, такие как OpenAI, также предлагают инструменты для создания ИИ-агентов, например, Assistants API.
Новая модель OpenAI o1 может частично устранить проблему с запоминанием информации и памятью, так как это многошаговая модель, которая уже проверяет факты перед ответом.
Однако основатели Letta видят несколько ключевых отличий от OpenAI. Letta будет поддерживать работу с любыми моделями ИИ, включая OpenAI, Anthropic и собственные модели компании, в то время как OpenAI работает только со своими продуктами. Более того, Letta делает ставку на открытость и выступает за open source подход, в отличие от «чёрного ящика» OpenAI.
«Мы позиционируем себя как открытую альтернативу OpenAI», — подчеркнул Пакер. «Очень сложно создавать хорошие ИИ-приложения, если невозможно видеть, что происходит изнутри».
Источник новости: habr.com
