Студентка Массачусетского технологического института Рона Ванг обратилась к ИИ-генератору Playground AI для редактирования своего фото. Она хотела получить «профессиональный» снимок для профиля в LinkedIn. Однако сервис сгенерировал лицо другой национальности.
Нейросеть выдала изображение голубоглазой девушки европеоидной внешности с осветлённой кожей.
Пост Ванг вызвал очередную дискуссию о предвзятостей ИИ. Сама девушка отмечает, что проблема расовой предвзятости станет более серьёзной, если, например, компании начнут просить ИИ отобрать наиболее «профессиональных» соискателей.
На инцидент уже отреагировал основатель Playground AI Сухаил Доши. Он заявил, что модели опираются на текстовый запрос пользователя и не всегда работают так, как от них ожидают. Доши выразил обеспокоенность случившимся и надежду, что проблема разрешится.
Между тем исследователи Hugging Face рассказали о предвзятости генератора картинок DALL-E2. Так, на запросы со словами «директор» и «СЕО» он в 97% случаев выдаёт изображения белокожих мужчин.
Ранее профессор компьютерных наук в Колледже Дикинсона Джон Маккормик рассказал, что ещё 25 лет назад он намеренно создал алгоритм искусственного интеллекта для распознавания лиц, который содержал расовую предвзятость. По его словам, компании до сих пор совершают те же ошибки при обучении ИИ.
Источник новости: habr.com
