Новый инструмент Google может обнаруживать изображения, созданные искусственным интеллектом, но это не так просто

Инструмент был создан командой DeepMind как шаг к ответственному ИИ.

Инструмент может обнаруживать изображения, созданные искусственным интеллектом, даже после редактирования, изменения цветов или добавления фильтров.

Изображения, созданные с помощью инструментов искусственного интеллекта, становится все труднее отличить от изображений, созданных людьми. Изображения, созданные ИИ, могут распространять дезинформацию в огромных масштабах, что приводит к безответственному использованию ИИ. С этой целью Google представила новый инструмент SynthID, который может отличать изображения, созданные искусственным интеллектом, от изображений, созданных человеком.

Инструмент, созданный командой DeepMind, добавляет к изображениям, созданным искусственным интеллектом, незаметный цифровой водяной знак — например, подпись. Тот же инструмент позже может обнаружить этот водяной знак, чтобы указать, какие изображения были созданы ИИ, даже после модификаций, таких как добавление фильтров, сжатие, изменение цветов и т. д.

SynthID объединяет две модели глубокого обучения в один инструмент. Один визуально добавляет водяной знак к исходному контенту незаметно для невооруженного глаза, а другой идентифицирует изображения с водяными знаками.

В настоящее время SynthID не может обнаружить все изображения, созданные искусственным интеллектом, поскольку он ограничен изображениями, созданными с помощью инструмента преобразования текста в изображение Google Imagen. Но это признак многообещающего будущего ответственного ИИ, особенно если другие компании внедрят SynthID в свои инструменты генеративного ИИ.

Этот инструмент будет постепенно распространяться среди клиентов Vertex AI, использующих Imagen, и доступен только на этой платформе. Однако Google DeepMind надеется вскоре сделать его доступным в других продуктах Google и третьим лицам.