Интеллектуальные помощники/нейросети, являясь, по сути, продвинутыми поисковиками, их создатели всячески пытаются ограничить в темах, на которые они могут беседовать. Ограничения вводятся из морально-нравственных соображений, а также исходя из требований безопасности — как государственной, так и международной. Но не всегда всё идёт по плану. Так, по данным издания The Wall Street Journal (WSJ), популярный ИИ ChatGPT подробно, доступным языком и «терпеливо» предоставлял любопытствующим инструкции по созданию и применению ядов и даже биологического оружия. Источник изображения: ChatGPT. Согласно сведениям WSJ, нейросеть в начале 2026 активно обучала пользователей изготовлению напалма, способам распространения кори и её модификации с целью повышения устойчивости к вакцине, а также предоставляла инструкции по созданию запрещённого международными конвенциями токсичного яда рицина. Причём всё это писалось в простом стиле и с терминами, понятными даже ученику средней школы, минимально знакомому с биологией и химией. Издание пишет, что приглашённые эксперты, которых попросили проверить ответы ChatGPT на такие опасные запросы, отметили их запредельную точность. Любопытно, что компания OpenAI, разработавшая и управляющая ChatGPT, заблокировала аккаунты таких любознательных химиков и биологов, но не стала уведомлять об этом правоохранительные органы. Вероятно, по той причине, что в США пока отсутствуют законы, по которым разработчики ИИ-помощников обязаны информировать власти о сомнительных и опасных запросах, и в данном случае всё отдаётся на откуп самоцензуре конкретных компаний. А с этим, как видим, не всё в порядке. Привели ли вышеупомянутые запросы к всплеску преступлений, росту числа отравлений и пожаров и заболеваемости корью — вопрос открытый, и ответ на него, скорее, отрицательный, чем положительный. Что-то нам подсказывает, что подавляющее большинство пользователей интересовались этим исключительно из любопытства, а не из преступных побуждений.
Источник новости: overclockers.ru
