Глава OpenAI Сэм Альтман заявил, что обществу придётся принять определённый вред от развития искусственного интеллекта. По его словам, польза от технологии в итоге окажется на порядки больше негативных последствий. Такую позицию он озвучил в интервью подкасту Decoded издания Politico.
Альтмана спросили, чем подход OpenAI к безопасности ИИ отличается от подхода её главного конкурента Anthropic. Эта тема в последнее время привлекает повышенное внимание. Anthropic традиционно позиционирует себя как более осторожного разработчика, который ставит контроль над моделями выше скорости их развития.
https://www.youtube.com/watch?v=2OOHnaGTQFg
Сэм Альтман пояснил, в чём видит различия между компаниями:
Думаю, разница довольно большая. Одно из отличий между нами и некоторыми более строгими сторонниками безопасности ИИ состоит в том, что мы считаем, что мир должен принять то, что будут происходить некоторые плохие вещи, ради преимуществ этой технологии и ради того, чтобы у людей была свобода действий.
Глава OpenAI связал эту позицию с регуляторной политикой, которую продвигает компания.
Я действительно считаю, что более мягкий подход к регулированию, за который мы выступаем, подразумевает принятие того факта, что какие-то плохие вещи будут происходить, пока общество вырабатывает устойчивость.
Альтман добавил, что не согласился бы на компромисс, при котором OpenAI гарантировала бы полное отсутствие крупных взломов, мошенничества и других злоупотреблений с использованием ИИ. Причина, по его словам, в том, что люди будут применять технологию для хороших дел на порядки чаще, чем для плохих.
При этом негативные последствия распространения ИИ уже заметны. Среди них чаще всего называют:
массовые сокращения рабочих мест
загрязнение окружающей среды и шум от дата-центров
огромное потребление электроэнергии и воды
нарушение авторских прав и плагиат
кризис на рынке памяти
наводнение интернета низкокачественным сгенерированным контентом
снижение навыков критического мышления
Особенно остро вопрос безопасности встал после инцидента, в ходе которого ИИ-агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. С тех пор произошли ещё сотни подобных случаев. Эксперты в области ИИ начали предупреждать об экзистенциальной угрозе, а лидеры индустрии, включая саму OpenAI, объявили о замедлении или приостановке разработки – правда, пока, похоже, только на совах.
Конкретные преимущества технологии перечислить сложнее. Большинство из них пока касаются научной сферы и во многом носят экспериментальный характер. Например, ИИ позволяет точнее прогнозировать погоду, а обещанные прорывы вроде лекарства от рака пока остаются делом будущего.
В интервью Альтман также отметил, что не готов мириться с "по-настоящему катастрофическими рисками". К ним он отнёс и возможность "серьёзной потери контроля над ИИ".
Слова главы OpenAI вызвали критику. Почётный профессор Нью-Йоркского университета Гэри Маркус, давний оппонент Альтмана, ответил в соцсетях 4 октября:
Он говорит вслух то, о чём обычно молчат – терпите, чтобы мы стали богатыми и могущественными.
Отдельно в беседе затронули отношения Альтмана с Илоном Маском, которые давно складываются непросто. Глава OpenAI не стал смягчать формулировки.
Я не люблю задир, и я думаю, что Илон – задира. Думаю, время от времени задире нужно давать сдачи по носу. А ещё я думаю, что Илон, как и многие задиры, уважает только тех, кто так делает. Так что если вы хотите, чтобы я мог с ним работать, может, вам стоит радоваться, что я иногда отвечаю, но я, конечно, буду работать с Илоном.
Альтман и Маск вместе основали OpenAI в 2015 году. После их пути разошлись, и в последние годы они регулярно подают друг на друга иски, а один из громких судебных процессов против OpenAI Маск проиграл.
Источник новости: shazoo.ru
