X отключила поиск по словам Taylor Swift в ответ на наплыв порнографических изображений певицы, сгенерированных нейросетями. Если ввести в поиск Taylor Swift или Taylor Swift AI, пользователь увидит сообщение Something went wrong. Как заявил глава бизнес-подразделений X Джо Беннарок, это временная мера, которая используется «с большой осторожностью».
Меру нельзя назвать особенно действенной: если переставить слова в запросе, например, написать Taylor AI Swift, или просто заключить имя певицы в кавычки, поиск выдаст результаты. Поиск на других языках (например, на русском) также работает.
Причиной блокировки запроса стали порнографические изображения Свифт, сгенерированные искусственным интеллектом. По заявлению X, платформа «активно удаляет все идентифицированные изображения» и блокирует публикующие их аккаунты.
404Media утверждает, что дипфейк-изображения Тейлор Свифт были созданы в программе Microsoft Designer. Как заявила Microsoft, «в рамках расследования» она не смогла воспроизвести откровенные изображения в генераторе. Тем не менее, компания пообещала ужесточить фильтры промтов, чтобы избежать злоупотребления её сервисами.
Meta* также присоединилась к решению проблемы: запрос AI Taylor Swift заблокирован и в Threads, и в Instagram**. Вместо результатов поиска пользователь увидит сообщение о том, что «этот термин может быть связан с деятельностью опасных организаций и частных лиц». На фоне скандала пресс-секретарь Белого дома Карин Жан-Пьер призвала Конгресс разработать закон, защищающий людей от дипфейк-порно.
*Meta Platforms признана экстремистской организацией, её деятельность в РФ запрещена;
**запрещена в России.
Источник новости: habr.com
