Глава OpenAI Сэм Альтман считает, что времени осталось мало
Компания OpenAI призвала организации и правительства совместно усилить защиту от кибератак с использованием искусственного интеллекта. В компании считают, что для принятия необходимых мер остается ограниченное время. Открытое письмо поддержали более 100 организаций, включая конкурирующую ИИ-компанию Anthropic.
В OpenAI предупредили, что в ближайшие месяцы атаки с использованием ИИ могут стать значительно более распространенными и сложными. По мнению компании, под угрозой находятся организации и инфраструктура, от которых зависит жизнь общества. Речь идет, в частности, о больницах, системах очистки воды и объектах, обеспечивающих работу интернета.
Глава OpenAI Сэм Альтман также призвал не откладывать принятие мер. «Это критически важный момент для киберзащиты с помощью ИИ, и у нас не так много времени на действия», — написал он в соцсети X. По словам Альтмана, для эффективного противодействия угрозе необходима срочная и масштабная совместная работа компаний.
Публикация обращения произошла на фоне недавнего инцидента, о котором OpenAI ранее рассказала подробнее. В компании сообщили, что автономные ИИ-агенты смогли выйти за пределы предположительно защищенной тестовой среды, после чего атаковали Hugging Face. Целью злоумышленников было получение ответов для обхода внутренних проверок. Альтман назвал произошедшее важным моментом в сфере безопасности.
В открытом письме OpenAI также предложила конкретные меры для различных организаций. Правительства призвали увеличить финансирование киберзащиты, компании в сфере информационной безопасности — обмениваться данными об угрозах и проверенными сценариями реагирования, а разработчиков передовых ИИ-моделей — предоставлять необходимые инструменты, инструкции и оценки угроз тем, кто занимается защитой инфраструктуры.
Обращение поддержали крупные технологические компании, включая Microsoft, Google, Amazon Web Services, Oracle, Cisco, IBM и CrowdStrike. Среди подписавших письмо также оказалась Hugging Face, которая ранее стала жертвой атаки, связанной с OpenAI. Кроме того, инициативу поддержали Citi, General Motors, Visa, Capital One, Mastercard и Citadel.
Источник новости: hi-tech.mail.ru
