Бывший исполнительный директор Salesforce Брет Тейлор считает, что разработка программного обеспечения вступает в «эру автопилота» благодаря инструментам ИИ, но предупреждает, что отрасль должна готовиться к «полной автономии». Тейлор, который сейчас является членом правления OpenAI, сравнивает этот переход с эволюцией самоуправляемых автомобилей от помощников к полному управлению.
В своей недавней заметке Тейлор утверждает, что современные инструменты, такие как помощники по написанию кода на базе ИИ, делают разработчиков «более эффективными», но они все еще зависят от «человеческого контроля». Чтобы программное обеспечение достигло полной автономности, индустрии нужны новые системы, языки и методы проверки. Эти системы должны быть нацелены на создание безопасного, не содержащего ошибок кода и одновременно позволять инженерам контролировать рабочие процессы, управляемые ИИ.
Тейлор ставит перед разработчиками задачу создать инструменты для такого перехода. Вопросы о том, как проверять код, созданный ИИ, и какую роль должна играть формальная проверка, являются «критически важными». Без такого внимания, предупреждает он, стремительное развитие программного обеспечения, генерируемого ИИ, может привести к тем же уязвимостям и недостаткам, что есть и сейчас.
Он призывает технологическое сообщество принять этот вызов.
Источник новости: www.ferra.ru
