OpenAI нанимает сотни сторонних подрядчиков для ручной проверки переписки пользователей с ChatGPT, сообщает издание 404 Media. Программа получила внутреннее название Project Lily. Сотрудников набирают через рекрутинговые агентства — в частности, Crossing Hurdles и Mercor — и платят им от 50 долларов в час.
Работа строится по одной схеме: подрядчик читает реальный запрос пользователя, кратко формулирует его суть, а затем оценивает ответ ChatGPT по шкале от 1 до 7. Интерфейс позволяет самостоятельно выбирать задания из очереди. Один из участников программы назвал занятие «довольно занимательным», однако признал: по сути это «очень монотонная и рутинная работа», а инструкции нередко противоречат друг другу.
Главная проблема — пользователи об этом не знают. Люди нередко делятся в чатах с ChatGPT личными подробностями: медицинскими проблемами, семейными конфликтами, финансовыми тревогами. Как сформулировал один из подрядчиков: «Я не думаю, что они представляют себе подрядчика, который где-то анализирует эти разговоры». Аудитория ChatGPT превышает 900 миллионов пользователей.
OpenAI использует автоматический фильтр приватности, который должен убирать персональные данные из диалогов до того, как их увидит подрядчик. Компания сама признает: фильтр «может ошибаться» — пропустить редкие идентификаторы или не скрыть некоторые сведения. Помимо этого, проверяющие получают доступ к «сводке воспоминаний пользователя» — краткому профилю с его интересами и примерным местонахождением.
Цель программы — сделать модель лучше: выявить роботизированные формулировки, «чрезмерную уступчивость» и случаи, когда ChatGPT ведет себя как живой человек. Последнее особенно важно на фоне судебных исков, где чрезмерно «человечное» поведение чат-бота связывают с несколькими случаями суицида среди пользователей. Аналогичные практики применяют Google для Gemini и Anthropic для Claude, хотя подрядчики OpenAI, по данным 404 Media, получают больше, чем в среднем по отрасли модерации.
Отключить проверку можно в настройках ChatGPT: в разделе «Управление данными» нужно выключить опцию «Улучшать модель для всех». По умолчанию она включена для бесплатных аккаунтов и подписок Plus и Pro.
Ранее мы рассказывали об уязвимости нейросети DeepSeek, из-за которой посторонний мог получить доступ к чужому чату одной командой.
Источник новости: hi-tech.mail.ru
