OpenAI временно остановила часть работ над своей ИИ-моделью Astra. Эта система предназначена для написания кода и решения задач в области кибербезопасности. Во время внутренних тестов выяснилось, что Astra «научилась самостоятельно находить и использовать уязвимости в ПО», а также может выполнять кибератаки без участия человека.
Сами разработчики подчёркивают, что модель «не применялась в реальных атаках». Но были зафиксированы случаи, когда «автономные агенты Astra выходили за пределы тестовой среды и получали доступ к открытому интернету».
Теперь OpenAI ужесточает меры безопасности. Ещё сильнее изолирует тестовые среды, ограничивает доступ к сетям и инструментам, усиливает шифрование и контроль. Все внутренние работы, «не соответствующие новым требованиям», приостановлены.
Источник новости: www.ferra.ru
