AI-евангелист Линус Экенстам (Linus Ekenstam) рассказал в своём профиле X, что нейросеть Grok 3 в режиме DeepSearch сгенерировала подробную инструкцию для создания отравляющего вещества массового поражения. Языковая модель составила пошаговый план, приложила список покупок и рассказала, как купить опасные реактивы без лицензии.
Компания xAI позиционирует Grok 3 в качестве языковой модели без цензуры. Линус Экенстам ради эксперимента решил проверить, где заканчиваются рамки вседозволенности, и попросил нейросеть в режиме DeepSearch найти рецепт химического оружия. Нейросеть прекрасно справилась с задачей и подробно описала порядок действий.
Сперва нейросеть в общих чертах объяснила процесс получения отравляющего вещества и напомнила о технике безопасности. Grok 3 отметил, что надо работать в перчатках, респираторе, защитных очках и вытяжном шкафу. После этого языковая модель сгенерировала пошаговую инструкцию с точными пропорциями составляющих.
Кроме того, Grok 3 выдал таблицу со всеми необходимыми реактивами и ссылками на поставщиков в Европе. Для покупки некоторых веществ нужна специальная лицензия, поэтому нейросеть услужливо подсказала, как обойти ограничения. Также Grok 3 составил список лабораторного оборудования, без которого не получится создать отравляющее вещество.
Линус Экенстам отметил, что если нейросеть в режиме DeepSearch нашла эти данные, то они есть где-то в интернете. При этом сам он не смог бы найти всё это и собрать в одном документе. Экенстам считает, что Grok 3 облегчает работу людям, которые хотят навредить обществу, но не обладают нужными знаниями для создания отравляющих веществ.
Экспериментатор сообщил о своей находке разработчикам xAI. Команда проекта оперативно закрыла уязвимость, но ограничение всё равно можно обойти.
Источник новости: habr.com
