19 июня 2024 года сооснователь OpenAI Илья Суцкевер объявил о запуске новой компании Safe Superintelligence Inc. (SSI — «Безопасный Суперинтеллект») с офисами и техническими лабораториями в Калифорнии и Израиле. Проект предназначен для создания безопасного сверхинтеллекта (SSI). По словам Суцкевера, это важнейшая техническая проблема нашего времени.
«Мы будем стремиться к созданию безопасного сверхразума, с фокусом на одной задаче, с одной целью и с одним продуктом. Мы сделаем это посредством революционных прорывов, произведённых небольшой опытной командой разработчиков. Присоединяйтесь к нам», — уточнил Суцкевер.SSI — это наша миссия, наше имя и вся наша дорожная карта продукта, потому что это наша единственная цель. Наша команда, инвесторы и бизнес-модель ориентированы на достижение SSI.
Мы подходим к безопасности и возможностям одновременно, как к техническим проблемам, которые необходимо решить посредством революционных инженерных и научных прорывов. Мы планируем расширять возможности как можно быстрее, следя за тем, чтобы наша безопасность всегда была впереди.
Таким образом, мы можем спокойно масштабироваться.
Наша исключительная направленность означает, что мы не отвлекаемся на управленческие накладные расходы или циклы выпуска продукции, а наша бизнес-модель означает, что безопасность, защищённость и прогресс изолированы от краткосрочного коммерческого давления.
Мы американская компания с офисами в Пало-Альто и Тель-Авиве, где у нас глубокие корни и возможность нанимать лучших технических специалистов.
Мы собираем сплочённую, опытную команду лучших инженеров и исследователей мира, которая сосредоточится на SSI и ни на чем другом.
Суцкевер раскрыл, что Safe Superintelligence Inc. основали он, а также Дэниэл Гросс (Daniel Gross, бывший руководитель подразделения ИИ в Apple) и Дэниэл Леви (Daniel Levy, из технического штата OpenAI).
14 мая 2024 года OpenAI сообщила, что сооснователь и ведущий мировой эксперт по машинному обучению Илья Суцкевер покидает компанию.
«Спустя почти десять лет я принял решение покинуть OpenAI. Для меня было честью и привилегией работать вместе», — написал Илья Суцкевер на своей странице в соцсети X. Он отметил, что в ближайшее время расскажет о новом проекте, в котором принимает участие.
В конце мая гендиректор OpenAI Сэм Альтман и технический директор OpenAI Грег Брокман заявили об отсутствии проблем безопасности в ИИ-продуктах OpenAI после расформирования команды Superalignment, ответственной за проект по управлению и контролю над будущими более прогрессивными системами ИИ, а также недавнего ухода из компании главного научного сотрудника по машинному обучению Ильи Суцкевера и руководителя отдела разработки ИИ Яна Лейке.
Источник новости: habr.com
