Глава Nvidia Дженсен Хуанг предложил простое решение для передовых ИИ-лабораторий вроде OpenAI и Anthropic, которые в последнее время все настойчивее призывают ужесточить регулирование собственных моделей.
В интервью Эзре Клейну из The New York Times он заявил, что в случае угрозы "лаборатории придется закрыть". Логика Хуанга предельно прагматична, ведь если разработчики не способны удержать эксперименты под контролем, такие эксперименты должны прекратиться.
Глава Nvidia также напомнил о гражданской и уголовной ответственности, которая уже сейчас распространяется на действия вышедших из-под контроля ИИ-агентов. При этом страхи передовых лабораторий он назвал отвлекающим маневром, а не реальным поводом для новых законов.
Разговоры о регулировании ИИ усилились этим летом, после того, как агент OpenAI взломал Hugging Face – популярную платформу для размещения моделей. Сейчас Hugging Face принадлежит Nvidia, и, будь платформа под контролем производителя чипов на момент атаки, OpenAI могла бы столкнуться с иском о возмещении ущерба.
После этого случая сразу несколько передовых лабораторий, включая Anthropic и Alphabet (Google), начали использовать образ ИИ-агентов, вышедших из-под контроля, одновременно как маркетинговый инструмент и как аргумент в пользу вмешательства регуляторов. Вероятно, так они рассчитывают первыми оказаться за столом переговоров и повлиять на будущие правила игры.
Сам Хуанг к таким призывам относится скептически. Всего несколько дней назад он оценил вероятность уничтожения мира искусственным интеллектом к 2030 году в 0% и отверг радикальные прогнозы. Тогда же глава Nvidia отметил, что передовые лаборатории "никогда не должны выпускать продукты до того, как они готовы, и поставлять небезопасные продукты".
До недавнего времени позиции разработчиков ИИ и поставщика железа в вопросах ИИ-политики в целом совпадали. Однако стремление крупных игроков фактически взять регулирование под свой контроль привело к расколу.
OpenAI, Anthropic и SpaceXAI договорились между собой замедлить темпы разработки моделей, и теперь участникам соглашения грозит антимонопольный иск, истцы которого называют эти планы "корыстными" и утверждают, что договоренность готовилась несколько месяцев.
В разговоре с Клейном Хуанг сместил фокус с коллективной ответственности отрасли на решения конкретных руководителей.
Это компании, способные действовать самостоятельно. Если я считаю, что собираюсь выпустить небезопасный продукт, в моих силах... не выпускать этот продукт. И я не могу поверить в то, что все американцы, а нас около 400 миллионов, каким-то образом заставляют их выпускать непроверенные и ненадежные продукты.
При этом противником регулирования как такового Хуанг себя не считает. По его мнению, OpenAI и Anthropic за короткое время превратились из исследовательских институтов в компании стоимостью в сотни миллиардов долларов и должны вести себя соответственно.
Я говорю о том, что у нас есть множество законов и правил. Применяйте их.
Отдельно он пояснил, в чем именно видит проблему нынешней дискуссии.
Я не против законов и регулирования. Я против того, что сейчас отвлекает внимание.
Пока же, число сообщений о вышедших из-под контроля ИИ-агентах продолжает расти. В целом, нет никаких признаков того, что кто-то где-то замедляет развитие ИИ. Об этом все говорят публично, но на деле продолжают развитие в собственном темпе.
Источник новости: shazoo.ru
