«Одноклассники» теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF‑файлы, которые пользователи считают эротическими. Обновление стало ещё одним шагом к поддержанию на платформе комфортной среды, рассказали Хабру в пресс‑службе соцсети.
Чтобы лучше выявлять и ограничивать эротический контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети.
На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более 6 млн файлов и разработали две ML‑модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде. Если пользователь захочет посмотреть скрытое изображение или GIF‑файл, он может кликнуть по нему.
Обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей. При этом пользователи всё так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки.
Ранее соцсеть начала размывать изображения 18+ в переписке.
Источник новости: habr.com
