Apple подписала добровольное обязательство американского правительства по разработке безопасного, надёжного и заслуживающего доверия искусственного интеллекта. Ранее аналогичное обязательство подписали 15 других разработчиков ИИ-сервисов, включая Amazon, Anthropic, Google, Inflection, Microsoft и OpenAI.
Правила правительства по разработке генеративного ИИ были представлены в июле 2023 года. В то время Apple не раскрывала, насколько глубоко она планирует внедрить ИИ в iOS, поэтому не подписывала обязательство. Тем не менее, компания заявила, что делает ставку на ИИ, в ходе WWDC в июне.
Обязательство требует, чтобы разработчики ИИ проводили проверку безопасности моделей перед запуском с использованием Red Team и делились результатами с общественностью. Тестирование должно охватывать риски для общества и национальной безопасности, такие как разработка биологического оружия, кибератаки и так далее. Информацией о рисках ИИ компании обязуются делиться с друг другом и с регуляторами.
Второе требование заключается в том, чтобы разработка ИИ-моделей велась в безопасных средах, и доступ к весам моделей был у как можно меньшего числа сотрудников. Наконец, компании обязуются разрабатывать системы маркировки контента, такие как водяные знаки, чтобы пользователи могли определять контент, созданный ИИ.
Источник новости: habr.com
