Asus планирует представить опцию аренды бизнес-серверов ИИ для офисов с языковой моделью Formosa, которая, по утверждению компании, эквивалентна GPT-3.5 OpenAI. Это позволит решить проблемы безопасности и контролировать данные из облачных систем ИИ. Nvidia DGX
Услуга будет стоить примерно $6000 в месяц. Самый мощный сервер, основанный на платформе искусственного интеллекта Nvidia DGX, обойдётся в $10 000 в месяц. Серверы будут оснащены графическими процессорами Nvidia A100 и будут принадлежать и управляться Asus.
Компания рассчитывает сначала предоставить эту услугу нескольким десяткам корпоративных клиентов на Тайване, а позднее в этом году выйти на международный уровень.
Formosa Foundation Model, которая будет работать на AFS Appliance, представляет собой большую языковую модель, которая генерирует текст с традиционной китайской семантикой. Она была разработана TWS, дочерней компанией Asus. Как и ChatGPT, она позволяет генерировать текст и писать код.
Ранее Microsoft также объявила о планах по запуску изолированной версии ChatGPT, ориентированной на конфиденциальность, которая будет предназначена для крупных организаций. Серверы модели будут размещаться в центрах обработки данных Microsoft. Это отличает систему от AFS Appliance, чьё аппаратное обеспечение будет установлено непосредственно на объектах клиента.
Asus утверждает, что её партнёрство с Nvidia решит проблему дефицита чипов по мере развёртывания службы AFS Appliance.
Пока же многие крупные компании отказались от использования ChatGPT из-за рисков. В апреле трое сотрудников Samsung в Корее случайно передали конфиденциальную информацию в чат-бот. Один из них поделился конфиденциальным исходным кодом для проверки на наличие ошибок, другой попросил ChatGPT оптимизировать код, а третий поделился записью встречи и попросил чат-бота преобразовать её в заметки. Теперь Samsung Electronics и Naver совместно разрабатывают генеративную платформу искусственного интеллекта для корпоративных пользователей.
Между тем разработчик Иван Мартинес Торо презентовал PrivateGPT — модель искусственного интеллекта с открытым исходным кодом, которая позволяет пользователям задавать вопросы без подключения к Интернету.
Источник новости: habr.com