Компания Midjourney готовится к запуску обновлённого веб-инструмента, который позволит пользователям редактировать любые изображения, загруженные из интернета, с помощью генеративного ИИ. Как сообщил генеральный директор компании Дэвид Хольц, релиз намечен на «начало следующей недели». Этот инструмент даст возможность изменять текстуры объектов на изображениях, перекрашивая их в соответствии с запросами.
Использование ИИ для редактирования изображений становится всё более актуальной темой. Крупные компании, такие как Meta* и Google, активно обсуждают, как различать изображения, созданные полностью искусственным интеллектом, и те, которые были лишь отредактированы. Например, Meta* сейчас решает, как правильно маркировать такие изображения, а Google уже представила инструменты, которые не всегда указывают на то, что изображения были изменены с помощью ИИ.
Midjourney ранее заявляла о намерении использовать стандарт IPTC, который добавляет метаданные в изображения, чтобы указать, что они созданы с помощью ИИ. Однако компания пока не внедрила более продвинутую технологию C2PA, которая позволяет отслеживать происхождение изображения и включает данные об инструментах и оборудовании, использованных для его создания.
Попробовать сгенерировать изображения с помощью Midjourney можно на нашем сайте.
На первом этапе доступ к новому инструменту получит ограниченное количество пользователей. По словам Дэвида Хольца, генерального директора Midjourney, модерация будет осуществляться как людьми, так и ИИ-модераторами, чтобы предотвратить злоупотребления. Вопрос о том, как ограничить доступ к новому инструменту, пока остаётся открытым, и компания собирает обратную связь от сообщества, чтобы определить, кто получит ранний доступ.
Однако запуск таких мощных инструментов редактирования может нести риски. Они могут способствовать нарушению авторских прав или распространению дезинформации, например, дипфейков. В последние годы эта проблема стала особенно актуальной.
По данным компании Clarity, которая занимается распознаванием дипфейков, количество таких изображений в 2024 году увеличилось на 900% по сравнению с предыдущим годом. Это вызывает серьёзные опасения, так как, согласно опросу YouGov, 85% американцев обеспокоены ростом количества дипфейков в интернете.
Несмотря на отсутствие федеральных законов, регулирующих создание дипфейков в США, некоторые штаты уже приняли законы, запрещающие использование ИИ для выдачи себя за другого человека. В Калифорнии обсуждается законопроект, который может дать судьям право требовать удаления дипфейков и накладывать штрафы на их авторов.
Хотя Midjourney подвергалась критике за возможное использование контента, защищённого авторским правом, при обучении своих моделей, компания предпринимает шаги для борьбы с распространением дипфейков. В частности, перед президентскими выборами в США были введены фильтры для предотвращения создания изображений с политическими деятелями.
Таким образом, новый инструмент от Midjourney открывает большие возможности для редактирования изображений, но требует серьёзного контроля и ответственного подхода, чтобы минимизировать риски, связанные с его использованием.
Источник
*признана в РФ экстремистской организацией и запрещена
Источник новости: habr.com
