Бен и Флинн, сыновья Дженнифер Уоткинс
Медицинский работник из Австралии Дженнифер Уоткинс едва не лишилась всех своих аккаунтов в сервисах Google и цифрового следа более чем за 10 лет из-за неудачной шутки семилетнего сына. Ребёнок снял видео своей обнажённой пятой точки и выложил его в YouTube. У Уоткинс подрастают два мальчика-близнеца, и одним из их развлечений стали съёмки коротких видео с дурацкими плясками, которые обычно не набирали более 5 просмотров. Проблема в том, что снимали они на планшет с учётной записью Уоткинс.
Когда Дженнифер Уоткинс получила сообщение от YouTube о закрытии её канала, то проигнорировала его, ведь сама она не пользовалась YouTube. Вскоре Уоткинс заблокировали все учётные записи в Google. Она потеряла доступ к фотографиям, документам и электронной почте; она не могла получать рабочие сообщения или просматривать свои банковские выписки. Злосчастное видео было отмечено как возможная сексуальная эксплуатация ребёнка, что является нарушением условий обслуживания Google и может иметь серьёзные последствия.
Уоткинс пыталась обжаловать решение о блокировке, аргументируя тем, что её семилетние сыновья считают, что «попы — это смешно», и несут ответственность за загрузку видео. Несколько попыток восстановить учётные записи были отклонены Google, и в конце концов Уоткинс обратилась в The New York Times. Через день после того, как репортёр поинтересовался её делом, учётные записи были восстановлены.
После этого случая в издании попытались разобраться, как складывается ситуация с защитой от недопустимого контента в Интернете. Согласно статистике Национального центра помощи пропавшим и эксплуатируемым детям, Google в прошлом году подала более двух миллионов отчётов с контентом, отмеченным как «детская порнография». Это намного больше, чем у других компаний, специализирующихся на цифровых коммуникациях, но меньше, чем у Meta*.
The New York Times не смогли найти достаточно исследований о точности или ошибочности этих отчётов. Но в одном опросе с небольшой выборкой пользователей, обвинённых в распространении неприемлемых изображений детей, более 75% отрицали злой умысел в своих действиях.
Прошлой осенью руководитель отдела доверия и безопасности Google Сьюзан Джаспер написала в своём блоге, что компания планирует обновить процесс апелляции, чтобы «улучшить пользовательский опыт» для людей, которые «считают, что мы приняли неправильные решения». Издание обращает внимание, что у Дженнифер Уоткинс была платная учётная запись в Google и возможность общаться со службой поддержки клиентов. Но в её случае и это не помогло.
Несколько лет назад в Google разработали алгоритм, обученный на известных изображениях, который пытается идентифицировать новые материалы, используемые для сексуальной эксплуатации; Google предоставила его другим компаниям, включая Meta и TikTok. В то же время Apple сопротивляется давлению с требованиями просканировать iCloud на наличие материалов, которые можно отнести к сексуальной эксплуатации. В этом году компания отправила правозащитной группе письмо, в котором выразила обеспокоенность по поводу «безопасности и конфиденциальности наших пользователей» и заявила, «что невинные люди попали в сети антиутопии».
Редакция The New York Times располагает и другими эпизодами, в которых родители сталкивались не только с блокировкой учётных записей, но и с преследованием полиции из-за фотографий и видео обнажённых детей, отслеженных системами искусственного интеллекта Google и признанных экспертами незаконными. Дэйв Уиллнер, научный сотрудник Центра киберполитики Стэнфордского университета, который занимался вопросами безопасности в нескольких крупных технологических компаниях, объяснил изданию, что у Google в таких ситуациях сложное положение: даже если фотография или видео абсолютно невинны по происхождению, потом они могут распространяться злонамеренно и оказаться у педофилов.
Дженнифер Уоткинс считает несправедливым «драконовское наказание» за одно глупое видео и недоумевает, почему Google не смогла предупредить её, прежде чем блокировать все аккаунты. Она собирается создать специальную учётную запись для своих близнецов, правда, пока они сами находятся в блоке: родители закрыли им доступ в Интернет.
* Meta Platforms, а также принадлежащие ей **Facebook и **Instagram: признана экстремистской организацией, её деятельность в России запрещена; запрещены в России
Источник новости: habr.com
