Вокруг развития искусственного интеллекта назревает новый спор: Anthropic, OpenAI и Илон Маск почти одновременно заговорили о необходимости замедлить прогресс передовых моделей. Причиной называют риск рекурсивного самосовершенствования, но критики видят здесь и попытку защитить позиции крупных игроков.
Глава Anthropic Дарио Амодеи заявил, что ИИ уже начинает помогать создавать следующее поколение систем, из-за чего развитие способно ускориться настолько, что люди потеряют контроль над процессом. Компания намерена самостоятельно ограничивать темпы разработки и допустить сторонних специалистов к проверке безопасности моделей и самих процессов обучения. Идею вскоре поддержали Сэм Альтман и Илон Маск.
Такая синхронность вызвала немало скепсиса. Противники инициативы считают, что жёсткое регулирование прежде всего создаст высокие барьеры для небольших компаний и разработчиков открытых моделей, одновременно укрепив положение нынешних лидеров рынка. Особенно спорно это выглядит на фоне успехов китайских проектов вроде DeepSeek, Moonshot и Z.ai, которые всё активнее конкурируют с американскими системами.
Интересно и другое: именно сейчас появились слухи, что Google DeepMind могла добиться значительного прогресса в рекурсивном самосовершенствовании ИИ. Если это правда, системы, способные помогать создавать собственных преемников, могут резко ускорить гонку. В таком случае призывы притормозить выглядят уже не только как забота о безопасности, но и как попытка выиграть время.
Источник новости: www.goha.ru
