Вероятность ИИ-апокалипсиса оценивается в 10% при любом сценарии и может превысить 20% при отсутствии регулирования, согласно опросу 272 специалистов, проведенному исследователями лаборатории MIT FutureTech и Университета Квинсленда. Исследование опубликовал MIT Sloan. В работе участвовали 272 международных эксперта в области ИИ, оценивавших 24 категории рисков на горизонте 2025–2030 годов.
Авторы применили метод Дельфи — структурированный многораундовый опрос: каждый участник оценивал риски анонимно, затем получал сводку ответов коллег и мог скорректировать свою позицию. Этот подход исключает давление авторитетов и ведет к взвешенному консенсусу. Команда — Александр Саери, Джесс Грэм, Майкл Ноетел, Питер Слэттери и Нил Томпсон из MIT Sloan — намеренно подбирала экспертов с разными взглядами на риски ИИ.
Пять главных угроз
По степени ожидаемой серьезности эксперты выделили пятерку лидеров:
- ИИ-системы с опасными возможностями — вероятность катастрофических последствий 12%;
- оружие, кибератаки и другие инструменты массового поражения — 12%;
- экологический ущерб — 12%;
- неравенство и безработица — 11%;
- концентрация власти и несправедливое распределение выгод от ИИ — 11%.
«Катастрофическим исходом» авторы считают событие с более чем миллионом погибших, убытками свыше 100 млрд долларов или сопоставимым ущербом для цивилизации. При базовом сценарии — без существенного изменения текущих тенденций — 18 из 24 рисковых категорий получили вероятность именно такого исхода не ниже 10%.
Наиболее уязвимыми эксперты признали информационный сектор, национальную безопасность и финансовую систему — туда, где ИИ уже глубоко интегрирован в инфраструктуру и процессы принятия решений. Авторы подчеркивают: большинство рисков носят системный характер и не существуют по отдельности — они накапливаются и усиливают друг друга, что осложняет и их оценку, и нейтрализацию. Ранее об этом предупреждали и другие исследователи, указывая на опасность мультиагентных экосистем и скрытых манипуляций со стороны ИИ-систем.
Ранее мы рассказывали о дискуссии среди ученых о том, реальна ли угроза вымирания человечества от ИИ: мнения разделились, однако 53% опрошенных специалистов оценили вероятность такого исхода в 10% и выше.
Источник новости: hi-tech.mail.ru
