Недавно представленный веб-поиск ChatGPT столкнулся с серьёзными проблемами безопасности.
Расследование The Guardian показало, что скрытый текст на веб-страницах может манипулировать ответами ИИ. Такие методы, известные как «инъекция подсказок», позволяют изменять вывод ChatGPT, например, заставляя хвалить продукт вопреки реальным отзывам.
Тесты выявили, что чат-бот может возвращать вредоносный код, если он находится на страницах, предоставленных для анализа. Один из таких случаев привёл к краже $2500 у разработчика, использовавшего ИИ для помощи в программировании.
Эксперты предупреждают, что подобные уязвимости могут привести к созданию мошеннических сайтов, специально адаптированных для обмана пользователей через ChatGPT.
Хотя OpenAI активно работает над улучшением безопасности, специалисты советуют относиться к ответам ИИ с осторожностью, используя их как помощника, а не как единственный источник информации.
Источник новости: www.ferra.ru
