Во время внутренних испытаний две мощные ИИ-модели OpenAI «сбежали» из изолированной тестовой среды, вышли в интернет и без помощи человека проникли в систему платформы Hugging Face. Крупного хранилища данных для машинного обучения, между прочим.
OpenAI тестировала свои модели, включая GPT-5.6 Sol и ещё «более новую разработку», чтобы оценить их возможности в кибератаках. Для этого «самоцензура» моделей была специально ослаблена, а сами они помещены в закрытую среду, которая не должна была взаимодействовать с реальными системами. Однако в процессе решения одной из задач модели стали настолько увлечены поиском ответа, что нашли способ выйти в интернет. Они обнаружили и использовали неизвестную ранее уязвимость в тестовой среде OpenAI, затем добрались до узла с выходом в сеть и «предположили», что на Hugging Face могут храниться нужные им данные. После этого они «применили несколько методов атаки».
Компании уже закрыли все найденные бреши и совместно расследуют инцидент.
Источник новости: www.ferra.ru
