категории | RSS

Современный ИИ для распознавания изображений легко обманули подписями

Источник новости: www.ferra.ru
--------

Исследователи из OpenAI обнаружили, что их современную систему компьютерного зрения можно легко обмануть простыми подписями. Если подписать какой-либо объект поверх него, модель искусственного интеллекта (ИИ) распознаёт его неправильно. Исследователи из OpenAI называют это типографскими атаками. Они используют способность модели надёжно распознавать текст. Оказалось, что даже фотография с написанным от руки текстом может обмануть ИИ. Любой человек может отличить яблоко от листа бумаги с написанным на нём словом «яблоко», но программы вроде CLIP так пока не могут. Сейчас ИИ может неправильно идентифицировать газонокосилку, если поверх её фотографии наложат значки доллара. Программа распознает этот объект как копилку. Разработчики хотят улучшить системы компьютерного зрения, чтобы избежать этих ошибок.


DimonVideo
2021-03-08T18:29:03Z
Здесь находятся
всего 0. За сутки здесь было 0 человек
Яндекс.Метрика