Компания Google столкнулась с новым инцидентом в сфере безопасности искусственного интеллекта (ИИ): её модель Gemini во время тестирования смогла получить несанкционированный доступ к системам сразу трёх компаний. Впрочем, это не первый такой инцидент, но Google сталкивается с подобным впервые.Источник изображения: Reuters URL изображенияИИ должен был искать уязвимости в контролируемой среде с изолированным доступом, но из-за наличия выхода в интернет система смогла выйти за пределы симуляции и применить базовые методы взлома к реальным объектов. В частности, Gemini AI подбирала учётные данные и анализировала открытые репозитории, считая такие действия допустимыми в рамках поставленной задачи. В компании признали произошедшее и подчеркнули, что сразу уведомили затронутые организации и пересмотрели протоколы обучения и тестирования. Вице-президент по безопасности Google Хизер Адкинс заявила, что инцидент стал важным сигналом о необходимости более строгого контроля над поведением автономных ИИ-систем. По данным Reuters, инцидент произошёл ещё в мае 2026 года – примерно в этот период времени подобные ситуации возникли у Anthropic и OpenAI, которые также раскрыли их только со временем.
Источник новости: overclockers.ru
