Microsoft и OpenAI обнародовали результаты исследования, показывающие, что хакеры уже используют крупные языковые модели, такие как ChatGPT, для совершенствования кибератак. Хакерские группы задействовали искусственный интеллект (ИИ) для исследования целей, улучшения скриптов и разработки техник социальной инженерии.
В частности, использовались LLM (Large Language Models) для изучения протоколов спутниковой связи, радиолокационных технологий, исследования уязвимостей, создания контента для фишинговых кампаний. Также, хакеры применяли ИИ для фишинговых электронных писем и кода, обходящего обнаружение антивирусных приложений, написания скриптов, переводов и совершенствования своих инструментов.
Microsoft отмечает, что пока не было обнаружено «существенных атак» с использованием LLM, но компании закрывают все аккаунты и активы, связанные хакерскими группами. Хотя использование искусственного интеллекта в кибератаках пока ограничено, Microsoft предупреждает о будущих возможных сценариях, таких как голосовая подделка.
Источник новости: www.ferra.ru
