Люди готовы платить за то, чтобы отомстить искусственному интеллекту

Системы ИИ все чаще становятся инструментом принятия решений, и далеко не всегда такие решения являются справедливыми.

Серия экспериментов международной группы ученых показала: мы готовы мстить искусственному интеллекту, но удовлетворение от такой мести оказывается не всегда таким же, как в случае с человеком. При этом многое зависит от того, как сама система реагирует на «наказание».

По мере того как именно алгоритмы все чаще решают, кого принять на работу, кому выдать кредит или как распределить медицинские ресурсы, психологов интересует, как мы воспринимаем такие системы и их решения. Ученые опираются на идею «восприятия разума»: мы оцениваем, есть ли у системы ИИ способность действовать намеренно (агентность) и способна ли она что‑то чувствовать — боль, страх, вину. Взрослый человек совмещает оба качества, поэтому его можно считать сознательным нарушителем норм морали и сделать объектом наказания. ИИ все усложняет: его воспринимают как нечто, достаточно «умное», чтобы нанести вред, но практически неспособное при этом испытывать боль или раскаяние.

Авторы работы, Александр Энг из Asia School of Business в Куала-Лумпуре и Кай Чи Ям из Национального университета Сингапура, решили выяснить, как люди эмоционально и поведенчески реагируют, когда наказывают ИИ, поступивший, по их мнению, несправедливо. «Исследования наказания обычно предполагают, что всякий, кто способен совершить проступок, может и быть наказан, — отмечает Энг. — Машины разрывают эту связь: мы считаем, что ИИ может принимать вредные решения, но не может чувствовать боль или извлекать пользу из полученных уроков».

В основе экспериментов лежали простые экономические игры, в которых участники делили небольшие суммы денег с партнером — человеком или алгоритмом. Раздел мог быть как справедливым, так и явно несправедливым, а отказ от сделки автоматически лишал денег обоих участников сделки.

Когда партнер предлагал откровенно нечестный раздел, участники злились и наказывали его отказом от сделки одинаково часто, независимо от того, кем был обидчик — человеком или ИИ. В одном из опытов, где участвовало свыше 3600 человек, выяснилось: если после «наказания» от ИИ приходило сообщение, выражающее «огорчение» или обещание впредь быть справедливее, чувство удовлетворения у людей росло, причем почти так же сильно, как и после аналогичного сообщения от человека.

«Мы ожидали, что извинение от ИИ почти ничего не изменит, ведь люди не верят, что он что-то чувствует. Но такие сообщения повышали ощущение справедливости для ИИ не меньше, чем для людей», — отмечает Энг. По его словам, показательно уже то, что люди готовы были буквально платить, чтобы наказать программу, которая в принципе не могла ни оставить себе выигрыш, ни пережить потерю.

Авторы подчеркивают, что их выводы получены в лабораторных условиях с символическими денежными ставками — в реальности, где ИИ отказывает в кредите, увольняет сотрудников или становится причиной ДТП, реакция людей может быть куда острее. Тем не менее результаты наталкивают на практический вывод: по мере того как ИИ берет на себя все больше ответственных решений, разработчикам таких систем нужно думать о том, как «система» должна реагировать на претензии пользователей — отказ объяснять свои решения может подрывать доверие к ИИ куда сильнее, чем само решение.

Ранее ученые обнаружили, что ИИ-манипуляции могут искажать решения человека.