Стартап TypeSafe AI представил Jev — первую модель нового класса под названием System One: вместо текстовых ответов она возвращает структурированные решения с калиброванными вероятностями. Проект наделал шума в профильных сообществах; компания закрыла посевной раунд на $40 млн. Ровно через три дня независимый исследователь Нандакишор М из Convai Innovations опубликовал Laya — бесплатную альтернативу под лицензией Apache 2.0.
System One — принципиально другой класс моделей по сравнению с привычными нейросетями. Обычная языковая модель отвечает текстом: разработчику приходится просить ее «отвечай только да или нет», а потом разбирать произвольный ответ программным кодом с риском ошибки формата. В System One схема вопросов и типов ответов описывается заранее, неструктурированные данные подаются на вход и сразу возвращаются в нужном формате. Нарушить его невозможно по архитектуре — галлюцинации в ответе исключены. Само название отсылает к «быстрому мышлению» из книги Даниэля Канемана: интуитивная реакция вместо медленного рассуждения.
Стандартный пример применения — автоматическая маршрутизация почты. Письмо подается в модель вместе с вопросами: это спам или нет, в какую папку его отправить, насколько срочен ответ, каков тон сообщения. На выходе каждый ответ сопровождается калиброванной вероятностью, и приложение сразу принимает решение без участия человека. Обе модели поддерживают три вида ответов: выбор одной метки из заданного списка, числовая оценка по шкале и результат «да/нет».
Laya воспроизводит эту архитектуру и распространяется бесплатно. Скорость составляет 32,8 мс на видеокарте Tesla T4 в одиночном режиме и 7,2 мс в пакетном — по заявлению разработчика, в 6–8 раз быстрее Jev. Поддерживаются более 100 языков; английская версия весит около 808 МБ, многоязычная — 647 МБ. Веса размещены на Hugging Face, код с инструкциями по локальному запуску — на GitHub.
По точности Laya заметно уступает Jev. На бенчмарке Banking77 — классификации банковских запросов по 77 категориям — Jev набирает 0,870, а Laya лишь 0,425. Платная Jev обходится в $0,042 за миллион входных токенов при бесплатных выходных; Laya не требует затрат при работе на собственном оборудовании.
Ранее мы рассказывали о выпуске OpenAI семейства GPT-5.6.
Источник новости: hi-tech.mail.ru
