ИИ становится все более значимой частью нашей жизни.
Очередная волна паники началась 8 сентября, когда Джейкоб Коксон объявил об уходе из калифорнийской компании Anthropic, заявив, что опасается, что разрабатываемые системы могут выйти из-под контроля и уничтожить человечество.
В своем первом посте в соцсети X Коксон написал: «Люди, которые создают ИИ, искренне верят, что он может убить нас всех к концу десятилетия». Его позицию фактически поддержал глава направления по согласованию действий моделей с человеческими ценностями в Anthropic Эван Хубингер, оценив риск вымирания человечества из‑за ИИ как «более 10% в ближайшие десять лет». Пост Коксона набрал более 100 миллионов просмотров за сутки. Глава Anthropic Дарио Амодеи затем опубликовал эссе с призывом замедлить — но не остановить — разработку ИИ. Его поддержали конкуренты: Сэм Альтман из OpenAI и Илон Маск из xAI.
Однако конкретных деталей того, как именно ИИ может уничтожить человечество, специалисты не приводят. Сценарии вымирания основаны на двух предположениях: что системы в конечном итоге полностью превзойдут людей по уровню интеллекта, и что их цели не будут полностью совпадать с человеческими. Классический пример — «сверхинтеллект», нацеленный на производство максимального количества скрепок, может сделать Землю непригодной для жизни ради достижения своей цели.
Майкл Вермеер, специалист по научно-технической политике в корпорации RAND, отмечает, что такие прогнозы «включают столько непроверяемых утверждений, что в итоге получается разговор, больше похожий на веру, чем на что-то научное или эмпирическое». В 2025 году команда Вермеера проанализировала практические сценарии уничтожения человечества искусственным интеллектом с использованием существующих технологий — ядерного оружия, биотехнологий или модификации атмосферы. Оказалось, что для реализации таких сценариев моделям потребовалась бы значительная способность физически взаимодействовать с миром, а их действия почти наверняка заняли бы время и с высокой вероятностью были обнаружены людьми.
Специалисты обеспокоены тем, что, достигнув определенного уровня развития, ИИ может уничтожить человечество.Однако многие эксперты обеспокоены более непосредственными и вероятными угрозами — дезинформацией, возможностью создания искусственным интеллектом биологического оружия или развязывания им войны. Хейди Хлааф, главный специалист по ИИ в институте AI Now, называет разговоры об уничтожении человечества «нагнетанием страха», а гораздо более актуальной проблемой считает «низкую надежность и точность ИИ в критических условиях, когда на кону оказывается жизнь и смерть».
Главы нескольких ведущих американских ИИ‑компаний поддержали идею усиления надзора, а в Конгрессе США обсуждаются разные законопроекты по контролю за ИИ. Однако президент Дональд Трамп уже раскритиковал идею замедления, назвав ее «больным заговором против ИИ» и заявив, что от этого якобы выигрывает только Китай.
В КНР, впрочем, область ИИ уже серьезно зарегулирована, хотя ограничения и не направлены на замедление разработки. Представитель Китая подчеркнул, что «нарративы угроз, конфронтации и злонамеренной конкуренции» лишь мешают глобальному управлению ИИ. И пока в отдельных странах идет дискуссия по поводу регуляции нейросетей, никаких общепризнанных международных правил не существует.
Напомним, недавно мы взяли интервью у героя этой истории:«Когда вы нас захватите?» ИИ рассказал журналистам о планах по покорению мира в большом интервью с ChatGPT
Источник новости: hi-tech.mail.ru
