категории | RSS

Microsoft запустила программу поиска уязвимостей в своих ИИ-продуктах

Microsoft объявила о новой программе Bing AI bug bounty, которая вводит вознаграждения за уязвимости в ИИ-продуктах компании. Для тех, кто обнаружит баги с рейтингами «важные» или «критические», предусмотрены премии в размере от $2000 до $15 000.

Примеры уязвимостей, за которые можно получить вознаграждение, включают использование быстрого проектирования, позволяющее чату Bing раскрывать конфиденциальную информацию, содержащуюся в весах модели, обходить ограничения чата Bing, касающихся поведения бота или продолжительности сеанса, а также получать доступ к истории чата.

Высшую награду предложат за критические уязвимости в манипуляциях с выводами, моделями или раскрытием информации, основанной на выводах.

В рамках программы можно будет искать уязвимости в любой интеграции Bing на базе искусственного интеллекта в Microsoft Edge, на веб-сайте bing.com (независимо от браузера), в меню «Пуск» Microsoft или в приложении Skype.

Другие разработчики ИИ тоже предлагают программы вознаграждений за обнаружение ошибок. Так, OpenAI обещает премии до $20 000 за «исключительные» уязвимости.

Ранее Microsoft добавила модель DALL-E 3 от OpenAI в свой конструктор изображений Bing Image Creator, но его пользователи сталкиваются с жёсткой цензурой при попытке использовать даже безобидные текстовые подсказки.



Источник новости: habr.com

DimonVideo
2023-10-15T20:50:03Z

Здесь находятся
всего 0. За сутки здесь было 0 человек
Яндекс.Метрика