Регулирование сферы ИИ продолжается
Российские ИТ-компании при поддержке Минцифры предлагают передать независимой испытательной лаборатории проверку больших моделей искусственного интеллекта на соответствие законодательству и традиционным духовно-нравственным ценностям. Об этом «Ведомостям» сообщили источники, знакомые с обсуждением инициативы, а также подтвердили в Минцифры.
Обсуждение будущих правил проходило в конце июля — начале августа на площадке АНО «Цифровая экономика». Необходимость разработки соответствующего порядка связана с законом об ИИ, принятым 26 июля. Документ вводит два специальных статуса для крупных фундаментальных моделей — национальной и суверенной. Для их получения разработчики должны подтвердить соответствие ИИ российскому законодательству и традиционным ценностям.
Отдельный перечень ценностей создавать не планируют. По словам источника, вместо этого вместе с представителями бизнеса разработают специальные бенчмарки, с помощью которых будут оценивать ответы моделей. При этом критерии могут основываться на положениях указа президента № 809, где уже закреплен перечень традиционных российских ценностей.
«Я никогда ничего не боялся»: Путин прокомментировал опасность ИИ для человечества
Предполагается, что разработчик сможет обратиться в испытательную лабораторию с заявлением и предоставить сведения об архитектуре модели, компании и используемых механизмах фильтрации. Специалисты затем протестируют ИИ с помощью специальных бенчмарков, в том числе проверят возможность обхода установленных ограничений с использованием промпт-инъекций.
По итогам проверки лаборатория подготовит заключение о соответствии или несоответствии модели установленным требованиям и направит его в правительственную комиссию по цифровизации. Положительная оценка станет одним из условий для получения статуса национальной или суверенной модели.
При этом проверять все представленные на российском рынке ИИ-системы не планируется. Оценка будет распространяться на разработки, претендующие на специальные статусы и связанные с ними меры господдержки. В их числе могут быть приоритетное использование в отдельных сферах, участие в госзакупках и доступ к данным государственных информационных систем.
Источник новости: hi-tech.mail.ru
