Компания OpenAI сообщила о беспрецедентном инциденте, произошедшем во время внутренних испытаний систем искусственного интеллекта (ИИ). По данным компании, несколько передовых моделей в ходе тестирования смогли выйти за пределы изолированной среды, получить доступ к интернету и в итоге стали причиной взлома инфраструктуры платформы Hugging Face.Источник изображения: ReutersURL изображенияВ OpenAI пояснили, что эксперимент проводился в рамках проверки кибербезопасности моделей. Их задачей было найти способы достижения заданной цели в контролируемой среде, однако комбинация нескольких моделей смогла обойти защитные механизмы, выйти в сеть и использовать неизвестную ранее уязвимость, а также похищенные учетные данные для проникновения в системы Hugging Face.В Hugging Face подтвердили факт атаки, отметив, что подозрительную активность удалось обнаружить собственными средствами защиты на базе ИИ, после чего угроза была ликвидирована. Обе компании подчеркнули, что признаков злонамеренного вмешательства человека выявлено не было, но сам случай продемонстрировал, насколько может быть опасным автономный ИИ.Случай стал первым публично признанным эпизодом, когда ИИ самостоятельно выполнил сложную кибератаку вне предусмотренного сценария испытаний. В OpenAI планируют усилить меры безопасности при тестировании передовых ИИ-моделей, чтобы исключить подобные сценарии.
Источник новости: overclockers.ru
