Компания SlashNext выпустила исследование, согласно которому злоумышленники используют технологии генеративного искусственного интеллекта для подготовки и реализации фишинговых атак и распространения зловредов.
Они применяют ChatGPT OpenAI и инструмент киберпреступности WormGPT. Последний основан на языковой модели GPTJ, которая была разработана в 2021 году. WormGPT предлагает неограниченную поддержку символов, сохранение памяти чата и возможность форматирования кода. По словам исследователей, WormGPT может проявлять «стратегическую хитрость», чтобы организовывать сложные фишинговые атаки. Его обучали на наборах данных, связанных с вредоносной деятельностью, но автор не раскрывает, что это за данные.
В одном эксперименте исследователи поручили WormGPT сгенерировать электронное письмо, чтобы заставить менеджера по работе с клиентами оплатить мошеннический счет. Нейросеть создала текст, который был достаточно убедительным.
При этом ChatGPT генерирует текст, похожий на человеческий, на основе вводимых данных, и киберпреступники могут использовать его для автоматизации создания очень убедительных и персонализированных электронных писем. При этом тексты можно переводить на разные языки, даже те, которых не знают сами хакеры.
Также киберпреступники делятся «джейлбрейками» для интерфейса ChatGPT. Это специализированные подсказки, которые предназначены для манипулирования нейросетью с целью раскрытия конфиденциальной информации, создания неприемлемого контента или даже выполнения вредоносного кода.
В SlashNext заявили, что распространение нейросетей снижает пороги входа для злоумышленников и их затраты. При этом атаки могут быть «более точными», чем раньше. Если у хакеров не получается добиться цели с первой попытки, то они могут попробовать сделать это снова с другим контентом.
Исследователи призвали компании разработать регулярно обновляемые программы обучения, направленные на противодействие атакам, усиленным с помощью ИИ. Такие программы должны информировать сотрудников о природе угроз, о том, как применяется ИИ, и о тактике злоумышленников. Кроме того, может быть полезным внедрение расширенных мер проверки электронной почты. Так, системы защиты могут помечать сообщения, содержащие определённые ключевые слова («срочно», «конфиденциально» или «электронный перевод»).
Ещё в январе эксперты по кибербезопасности Check Point Research выяснили, что хакеры применяют ChatGPT для написания вредоносного кода и фишинговых электронных писем. При этом часть из них практически не имеют опыта в программировании.
Источник новости: habr.com
