Не все изображения, «сделанные с помощью ИИ», созданы ИИ
Быстрые ссылки
- ИИ-медиа настолько реальны, что нам нужна помощь, чтобы отличить их от реальности
- Маркировка Meta объединяет созданное ИИ и созданное с помощью ИИ вместе
- Есть ли разница между созданием и использованием искусственного интеллекта?
- Маркировка искусственного интеллекта Meta не является надежной
- Новые стандарты фотографии уже не за горами
Недавно Meta выпустила новый тег «Сделано с помощью ИИ», чтобы помочь пользователям различать реальный контент и контент, созданный ИИ. Проблема в том, что этот тег появляется без разбора на изображениях, полностью созданных с помощью ИИ, и на тех, которые просто отредактированы с помощью ИИ. Это вызвало споры о том, насколько ИИ достаточно, чтобы испортить изображение, и привело к еще большей путанице в отношении того, что реально, а что нет.
ИИ-медиа настолько реальны, что нам нужна помощь, чтобы отличить их от реальности
Помните фотографию Папы Римского в стильном пуховике? На первый взгляд это казалось совершенно нормальным, и мы все думали, что только что спали на папской добыче. Однако позже выяснилось, что фотография была создана искусственным интеллектом.
Пробежавшись по нему во второй раз зубчатой расческой, можно сказать, что изображение сгенерировано искусственным интеллектом, но в этом-то и проблема — никто не просматривает Интернет с такой интенсивностью.
С распространением услуг по созданию изображений с помощью искусственного интеллекта в сети циркулируют тысячи, если не миллионы изображений, созданных с помощью искусственного интеллекта. Facebook уже перегружен тоннами изображений, созданных искусственным интеллектом, и другие социальные сети не сильно отстают.
Большинство людей не замечают признаков того, что эти изображения созданы искусственным интеллектом, и воспринимают их как точное отображение реальности. С приближением сезона выборов и в эпоху, когда дезинформация и ложь так широко распространены, ставки как никогда высоки, чтобы отличить выдумку от реальности.
Имея это в виду, Meta начала маркировать изображения, созданные искусственным интеллектом, загруженные в Facebook, Instagram и Threads, чтобы помочь людям легко отличать их друг от друга. Однако не все довольны тем, как они выполнили этот план.
Маркировка Meta объединяет созданное ИИ и созданное с помощью ИИ вместе
Шум вокруг маркировки искусственного интеллекта Meta вызван тем фактом, что компания не делает различий между использованием искусственного интеллекта для создания фотореалистичных изображений и использованием процесса искусственного интеллекта для редактирования фотографии. Что касается Меты, оба попадают в одну и ту же категорию.
Многие оскорбленные фотографы обратились в социальные сети, чтобы поделиться примерами того, что с ними происходит. Бывший фотограф Белого дома Пит Соуза пожаловался, что не смог снять флажок «Сделано с помощью ИИ», публикуя фотографию баскетбольного матча, сделанную им.
Другой фотограф, Питер Ян, поставил на своем изображении горы Фудзи пометку «Сделано с помощью искусственного интеллекта», потому что он использовал инструмент генеративного искусственного интеллекта, чтобы удалить с фотографии мусорное ведро.
Есть ли разница между созданием и использованием искусственного интеллекта?
Суть спора вокруг тега AI в Meta заключается в том, справедливо ли помечать изображения как «Сделанные с помощью ИИ», даже если они лишь минимально редактировались с помощью инструментов генеративного ИИ.
Понятно, что фотографы, использующие генеративные инструменты искусственного интеллекта, не хотят, чтобы ярлык «Сделано с помощью искусственного интеллекта» находился рядом с их работами. Термин слишком уж напряженный, предполагая, что сцена сфабрикована, и подразумевая, что они получают прибыль от работы других, учитывая, что многие программы ИИ обучаются на произведениях, защищенных авторским правом, без согласия. Более того, пометка их работы как «Сделано с помощью ИИ» подрывает усилия и навыки, затраченные на создание окончательной фотографии.
С другой стороны, сторонники маркировки Meta утверждают, что использование любого инструмента генеративного ИИ, независимо от того, насколько он мал, вводит ИИ в эту смесь. Таким образом, фотография больше не является точным представлением сцены, которую она запечатлела, и технически должна попасть в категорию «Сделано с помощью ИИ».
Сторонники маркировки возражают, что люди редактируют фотографии всегда — есть ли действительно разница между удалением фона фотографии с помощью ИИ и использованием волшебной палочки? Если Мета так заботится об изображении реальности такой, какая она есть, то не должен ли быть тег, идентифицирующий, когда фотография была каким-либо образом изменена?
Далее они отмечают, что инструменты искусственного интеллекта теперь встроены во все, от «Space Zoom» на Galaxy S20 Ultra до стандартных приложений для редактирования фотографий, таких как генеративная заливка в Adobe Photoshop. Помечая изображения с незначительными корректировками AI как «Сделано с помощью AI», Meta создает «сценарий мальчика, который плакал волком», где невинные изображения помечаются как «Сделанные с помощью AI», в результате чего люди теряют доверие к ярлыку и делают их более восприимчивыми к фактическому дезинформирующему контенту AI.
Другие люди пытаются найти золотую середину, предлагая отдельный тег «с помощью ИИ» для изображений, которые были лишь минимально изменены с помощью ИИ. Однако эта идея сразу же сталкивается с трудностями. Какой объем модификаций ИИ следует разрешить, пока фотография не будет считаться «Сделанной с помощью ИИ?» И будет ли такая система служить какой-либо цели? Разве злоумышленник не мог просто изменить небольшую часть изображения с помощью ИИ, чтобы создать вводящую в заблуждение сцену?
Маркировка искусственного интеллекта Meta не является надежной
Вся дискуссия о «Сделано с помощью ИИ» в любом случае может оказаться спорным вопросом, поскольку любой, кто хочет, может просто полностью избежать этого тега. Мета использует информацию в метаданных фотографий для идентификации процессов ИИ, и удалить ее тривиально легко. В ходе тестирования PetaPixel обнаружила, что простого копирования изображения в пустой документ достаточно, чтобы обойти тег, а публикация снимка экрана изображения также позволяет избежать тега.
Надежность маркировки также вызывает сомнения, поскольку на платформах Meta есть несколько изображений, явно созданных искусственным интеллектом, без метки. Напротив, другие изображения без какого-либо искусственного интеллекта подвергаются ему.
Новые стандарты фотографии уже не за горами
Несмотря на нынешнее запутанное положение вещей, на горизонте есть надежда. Многие крупные цифровые медиаплееры переосмысливают фотографии и видео, уделяя больше внимания их происхождению и аутентификации. Я подозреваю, что в ближайшие годы в этой области произойдут масштабные встряски. Уже существуют новые инициативы по аутентификации цифровых медиа, крупнейшей из которых является Коалиция за происхождение и подлинность контента, или сокращенно C2PA.
C2PA — это совместный проект крупных технологических компаний, таких как Adobe, Arm, Intel, Microsoft и Google, целью которого является предоставление контекста и истории для всех цифровых медиа. Идея заключается в том, что с момента захвата создается цифровая запись, которая привязывается ко всем носителям и подробно описывает, где она была сделана, какой камерой и кем. Каждое последующее редактирование объекта также добавляется в эту запись, и вся эта информация затем предоставляется конечному зрителю, гарантируя, что он всегда знает происхождение фотографии.
C2PA все еще находится на ранней стадии разработки, но новые камеры, поддерживающие этот стандарт, уже производятся, и я подозреваю, что совсем скоро он станет нормой.
Становится все труднее, чем когда-либо, отличить то, что реально от того, что сгенерировано ИИ, и новый ярлык Meta определенно не помогает делу. Такие инициативы, как C2PA, являются светом в конце темного туннеля, но до широкого принятия им еще далеко.
Вам предстоит критически оценить средства массовой информации, которые вы потребляете, чтобы убедиться, что то, что вы видите, является аутентичным. Задавайте вопросы источнику, ищите дополнительную информацию и помните, что не все изображения «Сделано с помощью ИИ» созданы ИИ.