Группа энтузиастов запустила проект WikiProject AI Cleanup для поиска, редактирования и удаления ложной информации, которую в энциклопедию добавили с помощью генеративного ИИ.
Один из основателей проекта Ильяс Леблю рассказал, что редакторы и пользователи «Википедии» заметили отрывки статей, которые явно сгенерировал чат-бот. Некоторые из этих текстов удалось в точности воссоздать с помощью ChatGPT.
«Мы обратили внимание на необычный стиль письма, который явно не принадлежал человеку, и смогли воспроизвести эти фразы с помощью ChatGPT. Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей. После этого и было решено организовать проект по поиску ИИ-текста», — рассказал Леблю.
В частности, энтузиасты обнаружили статью о якобы османской крепости под названием «Амберлисихар», построенной в 1400-х годах. В тексте объёмом около 2000 слов подробно описывалось местоположение и строительство этого объекта. Однако на самом деле такой крепости никогда не существовало.
Как выяснила команда, некоторые пользователи также вставляют ложные данные в уже существующие статьи. Так, в статью о жуке добавили раздел, посвящённый виду крабов, причём с правильными ссылками на источники.
Ранее создательница проекта Wordfreq по анализу использования языка людьми в интернете Робин Спир объявила о его закрытии. По её словам, нейросети слишком сильно загрязнили данные, из-за чего анализ стал невозможен.
Wordfreq — это программа, которая отслеживала, как люди используют более 40 различных языков, анализируя статьи в «Википедии», субтитры к фильмам и передачам, новости, книги и посты в соцсетях, таких как Twitter и Reddit. Система предназначена для оценки меняющихся языковых привычек, сленга и популярной культуры.
Источник новости: habr.com
