ИИ становится все более важным инструментом для выполнения самых разнообразных рабочих задач.
Новое исследование добавляет аргументов в пользу растущих опасений ученых: привычка перекладывать умственную работу на чат-ботов может подрывать способность к обучению и критическому мышлению в долгосрочной перспективе.
«Речь идет о том, что когнитивные психологи называют «желательными трудностями» — продуктивной борьбе с задачей, которая со временем развивает навык, — объяснила первый автор исследования, аспирантка Университета Карнеги-Меллон Грейс Лю. — Если ИИ регулярно устраняет эту борьбу, человек может получать верный ответ здесь и сейчас, но при этом у него не формируются устойчивые способности к самостоятельной работе».
Специалисты провели три эксперимента с участием в общей сложности более 1200 человек: два касались решения задач на дроби, один — понимания прочитанного текста. Логика экспериментов была схожей: в течение 10 минут часть участников получала доступ к ИИ-помощнику, который давал подсказки или готовые ответы, другая часть решала задачи самостоятельно. В конце эксперимента доступ к чат-боту без предупреждения отключали, и всем участникам давали несколько финальных заданий, которые нужно было выполнить без какой-либо помощи. Важно, что за неправильные ответы не штрафовали, а пропуск задания засчитывался как сознательный отказ от попытки его решить.
Активное применение ИИ лишает наш мозг необходимой ему когнитивной нагрузки.Результаты оказались устойчивыми во всех трех экспериментах. Пока у людей был доступ к ИИ, они решали больше задач и реже сдавались. Но как только помощника отключали, их результаты резко падали: они чаще пропускали задания и чаще ошибались по сравнению с теми, кто с самого начала работал без ИИ. Причем схожий эффект наблюдался не только в математических задачах, но и в заданиях на понимание текста, что говорит о достаточно общем характере проблемы — страдает не какой-то конкретный навык, а общая готовность упорно работать над трудной задачей.
По одной из версий авторов, дело в привычке к мгновенному получению ответа: получив однажды легкое решение, люди начинают воспринимать любой более медленный и трудный путь как «неэффективный» и просто отказываются по нему идти. Между тем, как отмечают специалисты, именно преодоление трудностей обычно лежит в основе формирования устойчивых навыков.
Лю признает, что похожий эффект может давать и калькулятор, тоже снимающий с человека часть умственной нагрузки. Но, по ее словам, принципиальное отличие ИИ в том, что он позволяет перекладывать на себя не какую-то узкую операцию (вычисление), а рассуждение целиком — причем сразу во множестве самых разных областей.
Последствия активного использования ИИ для когнитивных способностей еще только предстоит изучить.Авторы подчеркивают, что пока рано делать выводы о долгосрочных последствиях — для этого нужны исследования, которые отслеживали бы действия одних и тех же людей на протяжении длительного времени. Но уже сейчас, по их мнению, стоит менять сам подход к дизайну ИИ-инструментов: вместо готовых ответов чат-боты должны вести пользователя к решению постепенно, подобно хорошему наставнику. Как отметил соавтор работы, специалист по информатике из Калифорнийского университета в Беркли Брайан Кристиан, «нам нужно двигаться к будущему, в котором когнитивные способности человека усиливаются, а не вытесняются».
Ранее ученые разработали математическую формулу, которая способна предсказывать момент, когда ИИ-чат-бот неожиданно переключается с полезных ответов на потенциально вредные.
Источник новости: hi-tech.mail.ru
