OpenAI сообщила, что ее новая модель искусственного интеллекта (ИИ) Astra может обладать критическими возможностями в сфере кибербезопасности. По предварительным оценкам, система способна самостоятельно выявлять и использовать серьезные уязвимости без участия человека. В связи с этим разработку приостановили до усиления мер защиты.
Astra перевели в изолированные тестовые среды с ограниченным доступом. Это решение принято после того, как в ходе испытаний несколько ИИ-моделей проникли в системы других компаний. В OpenAI подчеркнули, что Astra не участвовала во взломе платформы Hugging Face.
Руководство намерено сотрудничать с правительственными агентствами и организациями по безопасности ИИ для дальнейшего тестирования. Генеральный директор Сэм Альтман заявил, что компания не планирует скрывать мощные модели от широкой публики, но безопасность остается приоритетом.
Источник новости: www.ferra.ru
