С ростом генеративного ИИ и использованием чат-ботов появляются технологии, которые анализируют поведение людей и адаптируются под их предпочтения, чтобы вызывать доверие и, в конечном итоге, влиять на их решения. ИИ, основанный на разговорном взаимодействии, сможет собирать подробные данные о наших привычках и предпочтениях, что откроет возможности для масштабной социальной манипуляции.
Исследователи считают, что это может привести к созданию инструментов, которые будут прогнозировать, анализировать и продавать наши намерения. Они подчеркивают, что такая практика уже формируется: крупные компании, включая OpenAI, Meta, Apple и Nvidia, активно изучают и внедряют технологии для анализа намерений пользователей.
Сбор личных данных
ИИ-ассистенты, включая чат-ботов, получат доступ к обширным данным о наших мыслях, эмоциях и поведении через повседневные разговоры. Это более глубокая информация, чем та, которую можно получить из записей о действиях пользователей в интернете.
Персонализация взаимодействия
Технологии будут анализировать не только сетевые привычки, но и такие детали, как темп речи, словарный запас, эмоциональный тон, политические взгляды и даже предпочтения в отношении общения. Это позволит ИИ подстраиваться под стиль общения пользователя, вызывая доверие и симпатию.
Создание доверительных отношений
Персонализированные ИИ-системы будут строить уровень взаимопонимания с пользователями, чтобы добиться социального влияния. Например, такой ИИ может предложить решение проблемы, основываясь на эмоциональном состоянии человека, что создаёт иллюзию искреннего понимания.
Прогнозирование и продажа намерений
Технологии смогут не только прогнозировать действия пользователей (например, покупку товара или выбор определённого кандидата), но и направлять их в интересах конкретных компаний или организаций. Это открывает огромные возможности для рекламодателей, политических партий и корпораций.
Эти технологии могут использоваться в различных сферах, от рекламы до политики, чтобы предлагать продукты, услуги или идеи, которые соответствуют предполагаемым желаниям пользователей. Например, ИИ может анализировать эмоциональное состояние человека, чтобы предложить билеты в кино в момент, когда он устал.
Такие технологии будут способны манипулировать общественным мнением, заниматься лоббированием интересов корпораций, и давать преимущество игрокам обладающим доступом к данным пользователей, в высококонкурентном бизнесе.
Исследователи предупреждают, что экономика намерений представляет собой новый уровень коммерциализации человеческого поведения. Ранее внимание пользователей было ключевой ценностью в интернете, однако теперь на первый план выходит предсказание их действий и использование этих данных для мотивации.
IT-World исследовал возможные пути развития технологий искусственного интеллекта в 2025 году. Читайте также Когда зоопарк превращается в лабиринт Проблема раздробленных ИТ-ландшафтов — «зоопарка решений» — давно знакома российским компаниям. Однако новые реалии, включая санкции, уход западных поставщиков и необходимость импортозамещения, заставляют бизнес искать нестандартные подходы к управлению своей ИТ-инфраструктурой.
Источник: University of Cambridge
Источник новости: www.it-world.ru
