Глава Anthropic Дарио Амодеи призвал разработчиков искусственного интеллекта (ИИ) намеренно снизить темпы развития возможностей новых моделей. По его мнению, это позволит уделить больше времени оценке рисков и мерам безопасности.
Амодеи отметил две причины для такого подхода. Первая связана со способностью ИИ совершенствовать собственные возможности. Второй фактор, по его словам, это недавний инцидент с агентами OpenAI и Hugging Face.
При этом замедление не должно означать остановку обучения моделей или технического прогресса. Речь идет о том, чтобы компании успевали проверять системы, а независимые специалисты могли оценивать их безопасность.
Anthropic намерена предоставить сторонним экспертам полный доступ для проверки практик безопасности и расследования инцидентов. Для более широких мер, считает Амодеи, потребуется сотрудничество компаний и государств.
Ранее о возможном замедлении разработки передовых ИИ-моделей говорил глава OpenAI Сэм Альтман.
Источник новости: www.ferra.ru
