Главный специалист Microsoft по разработке программного обеспечения Шейн Джонс обнаружил уязвимость в генераторе изображений DALL-E 3 от OpenAI, позволяющую пользователям создавать откровенные и жестокие изображения в обход мер безопасности.
Джонс, обнаруживший уязвимость самостоятельно в декабре, сообщил о ней в Microsoft, которая поручила ему проинформировать OpenAI. Обеспокоенный риском для «общественной безопасности», Джонс публично призвал некоммерческий совет OpenAI отозвать DALL-E 3. Однако, по его словам, юридический отдел Microsoft потребовал удалить пост без объяснения причин, оставив его последующие запросы без ответа.
Появление откровенных дипфейков, возможно, созданных Microsoft Designer с использованием технологии DALL-E 3, подчеркивает необходимость ответственности за безопасность продуктов ИИ, пишут СМИ. Джонс подчеркивает важность того, чтобы компании несли ответственность за раскрытие информации и обеспечивали заинтересованным сотрудникам возможность высказывать опасения по поводу безопасности «без запугивания».
Источник новости: www.ferra.ru
