Google Deepind в сотрудничестве с Google Cloud запустила бета-версию инструмента SynthID для нанесения водяных знаков и идентификации изображений, созданных искусственным интеллектом. Технология размещает цифровой водяной знак среди пикселей изображения, делая маркировку незаметной для человеческого зрения, но видимой для идентификации.
SynthID доступен для использования ограниченному числу пользователей Vertex AI, использующих генератор изображений по заданному текстовому описанию Imagen.
Модели генеративного ИИ способны раскрыть творческий потенциал, но также они позволяют авторам распространять ложную информацию как намеренно, так и нет. Возможность идентифицировать контент, созданный ИИ, имеет решающее значение для предотвращения передачи ложной информации, указывают в Google Deepmind.
SynthID не защищён от экстремальных манипуляций с изображениями, однако инструмент обеспечивает технический подход, позволяющий людям и организациям ответственно работать с контентом, созданным ИИ. Решение также способно развиваться совместно с другими моделями ИИ, которые работают с аудио, видео и текстом.
Традиционных водяных знаков недостаточно для идентификации изображений, созданных искусственным интеллектом, поскольку они наносятся как штамп и могут быть легко отредактированы. Отдельные водяные знаки в углах изображений можно просто обрезать в редакторе.
Найти правильный баланс между незаметностью и надёжностью к манипуляциям с изображениями сложно. Заметная маркировка создаёт проблемы для творческих и коммерческих целей. Менее незаметные водяные знаки могут быть утеряны из-за простых методов редактирования.
Google разработала SynthID так, чтобы инструмент не ставил под угрозу качество изображений и позволял обнаружить водяной знак даже после редактирования, включая добавление фильтров, изменение цветов и сохранение с использованием различного сжатия.
SynthID использует две модели глубокого обучения для нанесения водяных знаков и идентификации, которые обучены вместе на разнообразном наборе изображений. Комбинированная модель оптимизирована для достижения ряда целей, включая правильную идентификацию контента с маркировками и повышение незаметности за счёт визуального выравнивания водяного знака с исходным контентом.
Инструмент предоставляет три уровня достоверности для интерпретации результатов идентификации водяных знаков. Если SynthID обнаружил цифровой водяной знак, часть изображения, скорее всего, создана Image.
Решение Google использует метод идентификации контента при помощи метаданных, которые содержат информацию об авторе и времени создания. Эти сведения хранятся в файле изображения. Цифровые записи, добавленные к метаданным, могут показать, были ли внесены изменения. Поскольку водяной знак SynthID встроен в пиксели изображения, он совместим с другими подходами идентификации, основанными на метаданных, оставаясь обнаруживаемым даже при их потере.
Источник новости: habr.com
