Американская технологическая компания OpenAI сообщила, что её передовые модели искусственного интеллекта (ИИ) непреднамеренно взломали систему Hugging Face. Этот инцидент был назван «беспрецедентным» и вызвал новые призывы к ограничению использования этой технологии. Об этом сообщает Bloomberg.Фото: Omar Marques / Keystone Press Agency / Global Look PresOpenAI сообщила, что модели взломали систему компании Hugging Face, в которой размещены модели ИИ и наборы данных, во время оценки их кибервозможностей. Модели, включая GPT-5.6 Sol и еще одну, еще более совершенную модель, которая еще не выпущена, работали с более низким уровнем защиты для проведения тестирования.Произошедший инцидент поднимает вопросы о способности передовых моделей искусственного интеллекта проводить кибератаки, даже несмотря на то, что власти некоторых государств работают над введением ограничений на применение таких технологий. Новейший набор моделей разработки OpenAI получил разрешение на широкое распространение после нескольких недель обсуждений с правительством США, которое опасалось потенциального неправомерного использования этих продуктов. Также официальный Вашингтон рассматривал возможность ограничения доступа иностранных пользователей к передовым моделям Claude Fable 5 и Mythos 5 компании Anthropic, однако затем отказался от своих планов после того, как разработчик ввёл дополнительные меры защиты.В самой OpenAI случившееся назвали «беспрецедентным кибер-инцидентом», в котором задействованы самые современные кибервозможности, и заверили, что принимают соответствующие меры.«На данном этапе мы делимся предварительными результатами, чтобы помочь специалистам по защите понять, что произошло, и скорректировать возможности современных моделей», – говорится в сообщении OpenAI в блоге.В то время как модели OpenAI работали в так называемой тестовой среде «песочницы», они использовали уязвимость в ПО неопознанного стороннего поставщика, чтобы получить доступ к интернету и в конечном итоге взломать инфраструктуру компании Hugging Face.Ранее Hugging Face сообщила о «вторжении» в свою систему. В сообщении в блоге говорится, что зафиксированное нарушение отличалось от всего, с чем компании доводилось сталкиваться раньше, в одном важном аспекте. Оно было вызвано, от начала до конца, автономной системой агентов ИИ. Обнаружить и проанализировать нарушение удалось в основном с помощью собственного искусственного интеллекта.Компания OpenAI заявила, что попросила модели провести «продвинутую эксплуатацию уязвимостей» и разработать «сложные пути атаки» в попытке оценить их кибервозможности. Вместо того чтобы разрабатывать решения самостоятельно, модели атаковали базу данных Hugging Face, чтобы получить доступ к секретной информации, которую они могли бы использовать для оценки.
Источник новости: overclockers.ru
