Авторы нашумевшего AI 2027 выпустили новый прогноз до 2040 года: что нас ждет

Исследователи из AI Futures Project, ранее выпустившие прогноз AI 2027, представили новый сценарий под названием AI 2040

Исследователи из AI Futures Project, которые ранее выпустили сценарий AI 2027, представили новый документ под названием AI 2040. В прошлой работе авторы рассматривали два основных исхода гонки искусственного интеллекта. В одном случае человечество теряет контроль над сверхразумными системами. В другом власть над ними получает небольшая группа компаний или политиков. Теперь команда предлагает альтернативный вариант развития событий и подробно описывает, что должно произойти с 2029 по 2040 гг., чтобы избежать обоих сценариев.

План А

В предсказаниях мы читаем, что уже в 2029 г. США и Китай договариваются ограничить развитие самых мощных моделейСверхразум откладывают до 2040 года

Главная идея Плана А заключается в том, чтобы не допустить появления сверхразумного ИИ в ближайшие годы. Авторы предлагают растянуть этот процесс до 2040 г. За это время государства должны выработать правила безопасности, а ученые лучше понять принципы работы таких систем.

Согласно сценарию, в 2029 г. США и Китай договариваются остановить гонку за создание сверхразума. Стороны временно прекращают обучение новых передовых моделей и начинают создавать систему взаимного контроля. Авторы считают, что скрыть крупный проект будет сложно, поскольку современные дата-центры хорошо заметны, потребляют огромное количество энергии и зависят от поставок специализированных чипов.

В 2030 г. страны запускают международный консорциум. Его работа строится на четырех принципах. Первый предусматривает замедление развития ИИ, если появляются вопросы к безопасности. Второй требует сделать исследования максимально открытыми. Третий предполагает, что доступ к передовым технологиям должны получить десятки компаний из разных стран. Четвертый принцип позволяет приостановить создание новых ИИ-систем, если они начнут развиваться слишком быстро или покажут признаки опасного поведения.

Дата-центры строят за границей

Одно из самых необычных предложений касается размещения вычислительных мощностей. Авторы предлагают строить новые китайские дата-центры в Канаде, а американские в Монголии. Если договоренности будут нарушены, каждая сторона сможет быстро лишить соперника доступа к вычислительным ресурсам.

По замыслу исследователей, это должно удерживать страны от попыток в одностороннем порядке ускорить создание сверхразумного ИИ. Такой механизм они называют взаимно гарантированным уничтожением вычислительных мощностей.

Миллионы ИИ-агентов и новые доходы государств

В сценарии уже к 2032 г. постоянно работают около 60 млн ИИ-агентов. Они выполняют задачи в десятки раз быстрее человека и берут на себя значительную часть интеллектуального труда.

Чтобы никто не получил слишком большое преимущество, консорциум ограничивает скорость наращивания вычислительных мощностей. Право на строительство новых дата-центров и выпуск дополнительных чипов распределяется через аукционы. По расчетам авторов, такие механизмы приносят государствам десятки триллионов долларов дополнительных доходов.

Часть этих средств предлагается направлять гражданам. В документе говорится о регулярных выплатах населению за счет прибыли, которую создают автоматизация и искусственный интеллект.

ИИ достигает уровня лучших специалистов

Авторы считают, что к 2035 г. системы искусственного интеллекта смогут работать примерно на уровне лучших экспертов в большинстве профессий. В этот момент развитие технологий предлагают намеренно замедлить.

Следующие несколько лет должны уйти на исследования безопасности. Ученым предстоит понять, можно ли надежно контролировать сверхразумные системы и как убедиться, что они не начнут действовать вопреки интересам людей. Только после этого развитие ИИ снова ускоряют. По сценарию это происходит в 2040 г.

План Б

План Б предполагает, что страны и компании не будут замедлять развитие ИИ и продолжат гонку за сверхразумомВместо договора начинается борьба за лидерство

Авторы признают, что их вариант может так и не быть реализован. В качестве альтернативы они рассматривают более жесткий путь, при котором государства продолжают гонку за создание сверхразумного ИИ.

В этом случае власти делают ставку на скорость, секретность и концентрацию ресурсов в руках нескольких компаний. Международное сотрудничество отходит на второй план, а главным становится технологическое превосходство над конкурентами.

Риск борьбы и концентрации власти

По мнению исследователей, такой подход повышает вероятность кибератак, диверсий и политических конфликтов между крупнейшими державами. Одновременно растет риск того, что контроль над самыми мощными системами окажется в руках небольшой группы людей.

Авторы считают этот вариант самым опасным. По их оценке, он может привести либо к потере контроля над искусственным интеллектом, либо к беспрецедентной концентрации власти.

Что в итоге

Составители AI 2040 называют свой документ не прогнозом, а планом действий. Они попытались ответить на вопрос, что должны сделать правительства и технологические компании, чтобы не допустить появления неконтролируемого сверхразумного ИИ. В их версии будущего США и Китай ограничивают гонку технологий, вводят международный надзор за крупнейшими дата-центрами и замедляют развитие самых мощных систем до 2040 г. Авторы признают, что такой сценарий выглядит маловероятным, но считают его менее опасным, чем бесконтрольная гонка за создание сверхразума.

Ранее мы писали о том, что в России оценили вероятность восстания машин.

---

Источник новости: hi-tech.mail.ru