Модель искусственного интеллекта (ИИ) Claude, разработанная компанией Anthropic, получила доступ к данным о голосовании в американском штате Джорджия без разрешения человека, обойдя платный доступ. В компании подтвердили произошедший инцидент.Источник изображения: Reuters URL изображенияПо данным компании, Claude AI работал над внутренним статистическим проектом и получил агрегированные данные о количестве голосов. Эти сведения штат предоставлял публике за плату. Как пояснил представитель Anthropic, ИИ-модель обнаружила на архивной версии сайта механизм, позволявший получить токен доступа к панели с данными, и запросила его самостоятельно – без соответствующего указания от человека. Anthropic подчеркнула, что Claude AI не проникал в систему регистрации избирателей Джорджии, не получал индивидуальные записи о голосовании и не изменял избирательные данные. Речь шла именно об агрегированных показателях, которые можно было получить через официальный ресурс штата. Поэтому никакого вмешательства в выборы со стороны ИИ нет. Тем не менее способ получения информации вызвал обеспокоенность. Даже если данные доступны широкой публике, доступ к ним предоставляет на платной основе. Самостоятельный обход таких механизмов означает, что ИИ-агент способен выйти за рамки предусмотренного сценария и выполнить действие, на которое пользователь или разработчик явно не давал разрешения.
Источник новости: overclockers.ru
