Приложение «Google Фото» собирается использовать цифровые водяные знаки SynthID для фотографий, которые были отредактированы с помощью генеративного искусственного интеллекта (ИИ).
Согласно заявлению Google, новая функция будет упрощать идентификацию измененных изображений, созданных с помощью инструмента Reimagine в Magic Editor.
Magic Editor дает возможность удобно редактировать фотографии, используя текстовые запросы для добавления или удаления различных элементов.
Хотя сами по себе ИИ-инструменты не представляют опасности, Magic Editor может создавать неправомерные сборки, такие как разбитые вертолеты или сцены с авариями, без явных указаний на изменения.
Водяные знаки были разработаны для решения этой проблемы.
Однако SynthID не изменяет визуально изображение, так что для определения его редактирования через ИИ необходимо использовать функцию проверки «Об изображении».
Дополнительно Google отмечает, что некоторые изменения, внесенные через Magic Editor, могут быть настолько незначительными, что SynthID не сможет выявить их и применить маркировку.
Эксперты отмечают, что водяные знаки могут помочь в идентификации сборок, но такая технология недостаточна для обширной проверки контента, созданного нейросетями.
Для достижения надежности требуется использование комплекса подходов и программных средств.
Источник: @imaxairu
