Исследователи из Франции и Италии пришли к выводу, что использование ИИ может снижать способность людей критически оценивать информацию и признавать собственное незнание.
Люди стали реже говорить «я не знаю»
Авторы исследования — представители Миланского университета Бикокка, Высшей нормальной школы в Париже и Римского университета Сапиенца — изучили, как советы ИИ влияют на поведение пользователей.
«Для человека крайне важно уметь сказать “я не знаю”, потому что это означает осознание границ своих знаний», — отметил доцент Миланского университета Валерио Капраро.По его словам, доступность ИИ-ответов может подрывать эту способность.
В эксперименте участников разделили на две группы: одна отвечала на вопросы без помощи ИИ, другая могла запрашивать подсказки. Вопросы касались малозаметных деталей из фильмов — например, цвета формы в картине «Играй как Бекхэм» или типа автомобиля в «Добро пожаловать в Рим».
Результат оказался показательным: без ИИ 44% участников выбирали вариант «не знаю», тогда как с подсказками алгоритма — лишь 3%. «Способность приостановить суждение практически исчезает», — констатировал Капраро.
Точность падает, уверенность растет
Неожиданно использование ИИ ухудшило и точность ответов. Без помощи алгоритма правильные ответы давали 27% участников, а с подсказками — только 9%.
При этом уверенность людей в собственной правоте резко выросла. Если без ИИ лишь около 30% считали свои ответы верными, то с его участием этот показатель достигал 76%.
«Проще говоря, люди начинают отвечать хуже — точность падает втрое, — но при этом становятся почти вдвое увереннее в себе», — пояснил исследователь.Ученые связывают это с феноменом «галлюцинаций» ИИ — когда модели выдают правдоподобные, но неверные ответы. Несмотря на это, пользователи склонны доверять таким подсказкам.
В дополнительном эксперименте исследователи ввели денежное вознаграждение за точность ответов, рассчитывая повысить внимательность участников. Это частично помогло: доля ответов «не знаю» выросла с 3% до 8%, а правильных ответов — с 9% до 16%.
Однако показатели все равно остались значительно ниже уровня группы без ИИ (44% и 27% соответственно).
Источник новости: hi-tech.mail.ru
