Пользователи Reddit по всему миру были возмущены на прошлой неделе, узнав, что группа исследователей Цюрихского университета выпустила рой ботов, работающих на основе ИИ и выдающих себя за людей, в сабреддите «Измени мою точку зрения». Масштабный эксперимент был разработан, чтобы изучить, насколько убедительным может быть искусственный интеллект. Теперь платформа объявила, что ужесточит проверку пользователей для отсеивания таких ботов.
В рамках эксперимента боты опубликовали более 1700 комментариев от имени, например, жертв насилия или сторонников движения BLM.
Для Reddit этот инцидент представляет собой серьёзный репутационный ущерб. На карту может быть поставлена чистая прибыль платформы, поскольку теперь компания продаёт свой контент OpenAI для обучения моделей.
Компания осудила «ненадлежащий и крайне неэтичный эксперимент» и подала жалобу на университет, который его проводил. Чтобы защитить пользователей от манипуляций со стороны ботов и «сохранить Reddit человечным», платформа примет строгие правила идентификации пользователей.
Генеральный директор Reddit Стив Хаффман поделился, что Reddit начнёт работать с «различными сторонними сервисами» для проверки личности юзера. Это значительный шаг для платформы, которая исторически не требовала от пользователей почти никакой персональной информации для создания учётной записи.
«Чтобы сохранить Reddit человечным и соответствовать меняющимся нормативным требованиям, нам понадобится немного больше информации. В частности, нам нужно будет знать, являетесь ли вы человеком, а в некоторых случаях — являетесь ли вы взрослым. Но мы никогда не хотим узнать ваше имя или кто вы», —пояснил Хаффман.
Представитель Reddit отказался объяснить, при каких обстоятельствах компания потребует от пользователей пройти процесс проверки, хотя подтвердили, что платформа уже принимает меры по блокировке «плохих» ботов. Представитель также не стал делиться более подробной информацией о том, какие сторонние сервисы будет использовать компания или какую личную идентификационную информацию должны будут предоставить пользователи.
Многие компании сегодня полагаются на платформы проверки, такие как Persona, Alloy, Stripe Identity, Plaid и Footprint, которые обычно требуют выданного правительством удостоверения личности для проверки возраста. Также развиваются технологии, пдобные Tools for Humanity Сэма Альтмана, которые представляют собой устройство сканирования глаз человека.
Противники проверки личности говорят, что существуют риски конфиденциальности данных и безопасности при обмене личной информацией с платформами социальных сетей. Это особенно актуально для такой платформы, как Reddit, где люди публикуют многие сообщения только при условии анонимности.
Однако Хоффман подчеркнул, что «анонимность имеет важное значение для Reddit».
Генеральный директор также отметил, что платформа продолжит «чрезвычайно старательно защищать личную информацию» и «противостоять чрезмерным или необоснованным требованиям со стороны государственных или частных органов».
Источник новости: habr.com
