На конференции Salesforce Dreamforce, прошедшей 15 сентября, глава NVIDIA Дженсен Хуанг высказался по одной из самых острых тем современного технологического ландшафта — рискам, связанным с бурным развитием искусственного интеллекта. Руководитель чипмейкера занял чёткую позицию: ИИ не стоит воспринимать как некую чужеродную, неконтролируемую сущность. По его убеждению, это прежде всего инфраструктура — аппаратные и программные решения, спроектированные людьми, а значит, и управлять ими можно с опорой на существующие правовые нормы и накопленный инженерный опыт. Хуанг убеждён, что вопросы безопасности ИИ следует рассматривать как техническую, а не юридическую проблему. По его логике, компании разрабатывают вычислительные системы — пусть и высокой сложности, но всё же системы, подчиняющиеся понятным принципам. Если разработчик не уверен в надёжности, возможностях или безопасности своего продукта, решение простое: не выпускать его на рынок. Уже существующие рыночные механизмы, считает Хуанг, вполне способны регулировать эту сферу без привлечения нового законодательства. Глава NVIDIA также отвергает популярную дилемму «скорость или безопасность», называя такой выбор ложным. По его мнению, можно двигаться вперёд максимально быстро и при этом сохранять контроль — главное, чтобы при возникновении сомнений в безопасности продукта разработчик готов был остановиться и довести всё до нужного уровня качества. Однако издание TechCrunch отнеслось к этим заявлениям с заметным скепсисом. Трудно воспринимать как беспристрастного эксперта в области регулирования человека, который многократно увеличил своё состояние на волне бума в сфере искусственного интеллекта. Без внешнего контроля крупные технологические корпорации вполне могут жертвовать тщательностью тестирования ради скорости релизов. Кроме того, независимый аудит зачастую становится единственным способом вовремя обнаружить системные ошибки или потенциально вредоносное поведение моделей — то, что внутренние команды разработчиков рискуют упустить из-за конфликтов интересов. Параллельно в индустрии идёт активное обсуждение альтернативного подхода. Ранее генеральный директор Anthropic Дарио Амодей представил собственный план по достижению приемлемого уровня контроля и безопасности в сфере ИИ. Его инициативу уже поддержали Сэм Альтман из OpenAI и Илон Маск, стоящий во главе xAI. Однако план встретил и серьёзное сопротивление: против выступил президент США Дональд Трамп, а в Китае к предложению Амодея также отнеслись без энтузиазма. Вокруг регулирования ИИ складывается сложная картина. С одной стороны — голоса индустрии, настаивающие на саморегулировании и скорости разработки, с другой — растущее давление в пользу внешнего контроля и более жёстких правил. И то, что крупнейшие игроки рынка не могут прийти к единому мнению, лишь подчёркивает масштаб и сложность проблемы.
Источник новости: overclockers.ru
