Google потребует, чтобы приложения Android лучше модерировали контент, созданный искусственным интеллектом. Пользователи должны иметь возможность сообщать о нарушениях, не выходя из приложения. Новые меры заработают с 31 января 2024 года.
Разработчики должны будут использовать пользовательские отчёты для фильтрации и модерации контента в своих приложениях.
Компания заявила, что политика в отношении контента распространяется на чат-ботов с искусственным интеллектом, приложения с изображениями, созданными с помощью ИИ, а также приложения, которые создают голосовой или видеоконтент с использованием технологии.
Те сервисы, которые размещают такой контент, а также используют ИИ для обобщения материалов или повышения производительности, не будут подпадать под действие новой политики.
Google приводит примеры нарушающих политику материалов: дипфейки сексуального характера, дипфейки реальных людей, созданные с целью мошенничества, ложный или вводящий в заблуждение предвыборный контент, вредоносный код.
Компания добавила, что генеративный ИИ «является быстро развивающейся категорией», поэтому она может пересмотреть свою политику в этой области.
Google также усиливает политику разрешений на фото и видео в Play Store, ограничивая объём доступа приложений к данным.
«Фотографии и видео на устройстве пользователя считаются личными и конфиденциальными данными, и к ним следует относиться с соблюдением максимальных мер конфиденциальности, — заявили в компании. — Эта конфиденциальная информация делает пользователей уязвимыми для утечек или целей эксплуатации, поэтому сведение к минимуму такого доступа помогает избежать нагрузки на разработчиков по обработке таких конфиденциальных данных».
Только приложения, которым необходим широкий доступ к фотографиям и видео, продолжат получать общие разрешения, в то время как остальные должны будут использовать средство выбора фотографий.
Ранее Google обновила сервис Google Play Protect, защищающий от вредоносного ПО на Android. Он получил функцию сканирования в режиме реального времени на уровне кода.
Источник новости: habr.com
