Ваши запросы к ИИ читают живые люди: Microsoft наняла сотни проверяющих для Copilot

Проверяющие просматривают запросы к ИИ

Сотни подрядчиков, которых Microsoft наняла для улучшения чат-бота Copilot, просматривают запросы пользователей на редактирование изображений и загруженные ими фотографии. Об этом сообщило издание 404 Media со ссылкой на самих проверяющих и внутренние документы. Многие собеседники журналистов жалуются, что им постоянно попадаются откровенные и тревожные запросы.

По словам подрядчиков, лица на снимках никак не скрываются. «Лица всегда без цензуры, и многие запросы носят сексуальный характер, причем согласие изображенных сомнительно», — рассказал один из них.

Среди того, что приходилось оценивать, были просьбы изменить одежду или внешность женщин и картинки с персонажами детских мультфильмов. Некоторые работники также видели материалы, пропагандирующие анорексию, и изображения, похожие на жертвоприношение животных.

Задача проверяющих в том, чтобы оценить, насколько хорошо ИИ выполнил просьбу пользователя. Согласно документам, которые получили журналисты, Microsoft предлагала при этом полагаться на «интуицию». Подрядчики говорят, что их не предупреждали заранее о тяжелом контенте. Некоторые даже задавались вопросом, не стала ли генерация порнографии главным сценарием использования Copilot.

Формально Microsoft не скрывает, что с разговорами работают люди. В разделе вопросов о приватности компания пишет, что обученные специалисты могут просматривать беседы с Copilot, чтобы повышать точность и безопасность моделей. Перед обучением из данных удаляют имена, телефоны, адреса и другие сведения, по которым можно установить личность.

Загруженные файлы хранятся до 18 мес., а отказаться от проверки человеком, если сервис заподозрил нарушение правил, нельзя. При этом пользователь, который вошел в аккаунт, может запретить использовать свои переписки для обучения моделей.

Microsoft в этом не одинока. Незадолго до этого 404 Media рассказало, что OpenAI наняла сотни подрядчиков, которые читают запросы пользователей ChatGPT и оценивают ответы бота. У сервиса больше 900 млн пользователей, и большинство из них вряд ли догадывается, что переписку может увидеть человек.

«Не думаю, что они представляют, как какой-то подрядчик где-то анализирует их разговоры», — признался один из проверяющих. Поэтому личные фото, документы и сведения, которые вы не показали бы постороннему, чат-ботам лучше не отправлять.

Ранее мы писали о том, что Copilot уличили в чтении писем пользователей Windows 11. В Microsoft объяснили это программной ошибкой, из-за которой ИИ получал доступ к папкам «Отправленные» и «Черновики».