Нейросети создают фейковых врачей для рекламы БАДов
В соцсетях появилась целая армия несуществующих специалистов, сообщает Futurism. Они носят белые халаты, сидят в кабинетах с дипломами на стене и уверенно рассказывают, как избавиться от лишнего веса или хронической болезни за пару недель. Проблема в том, что этих людей никогда не существовало — их сгенерировал ИИ.
Журналисты изучили сотни подобных роликов и нашли у них общий сценарий. Герой ролика — либо солидный доктор, либо обычный энтузиаст, который снимает себя на парковке или в магазине и делится восторгом от нового чудо-средства. Часто в кадре мелькает уютный пригородный дом или предметы быта — это создает ощущение доверия и близости.
Особенно тревожно то, что за громкими обещаниями стоят реальные риски для здоровья. Компания под названием Sculptique рекламировала травяную добавку, которая якобы лечит болезни почек эффективнее лекарств. В ролике сотня людей с диагностированной почечной недостаточностью третьей стадии радостно поднимает бутылочки с препаратом — разумеется, все эти кадры тоже сгенерированы нейросетью.
История 71-летней Памелы Вундроу — типичный пример того, к чему это приводит. Она увидела в сети рекламу добавки и начала принимать ее от симптомов аутоиммунного заболевания. Через несколько месяцев службы отозвали продукцию, так как часть партии оказалась заражена сальмонеллой. Сама Вундроу не заболела кишечной инфекцией, но заметила, что самочувствие за время приема таблеток только ухудшилось.
За индустрией фейковых докторов стоит вполне реальный бизнес. По данным расследования журналистов, одна китайская компания производит подобные ролики для брендов, продающих товары через TikTok. Стоимость одного видео — около 10 долларов (примерно 800 рублей), а производственная мощность достигает 1200 роликов в сутки. Представитель компании призналась журналистам, что при рекламе товаров для здоровья приходится действовать осторожнее: вместо обещания «похудеть» используют более обтекаемую формулировку, например, «контроль аппетита».
По американским законам такая реклама никогда не прошла бы на телевидении — там действуют жесткие ограничения. Но в соцсетях контроль работает гораздо слабее. Хотя представители площадок заявляют, что блокируют аккаунты с ложными обещаниями об исцелении, и помечают контент, созданный нейросетями. На практике же журналисты находили ролики без всяких пометок — их убрали только после запроса редакции.
Главными жертвами этой схемы становятся пожилые люди — именно они хуже всего распознают нереалистичные лица и голоса. Вундроу призналась, что раньше замечала явные признаки подделки в других видео, но ролик с азиатской бабушкой в лабораторном халате, которая ссылалась на «многовековые традиции китайской медицины», ее полностью убедил.
Также недавно рассказывали, что владельцы TikTok представили платное приложение для просмотра микродрам. Подробности в статье.
Источник новости: hi-tech.mail.ru
