Meta обещает лучше маркировать видео, изображения и аудио, созданные ИИ
Компания обещает изменить способ обработки контента, созданного искусственным интеллектом, в Facebook, Instagram и Threads, основываясь на отзывах независимого наблюдательного совета.
В феврале Meta объявила о планах добавить новые метки в Instagram, Facebook и Threads, чтобы указывать, когда изображение было создано с помощью искусственного интеллекта. Теперь, используя технические стандарты, созданные компанией и отраслевыми партнерами, Meta планирует применять метки «Сделано с помощью ИИ» к видео, изображениям и аудиоклипам, созданным ИИ на основе определенных сигналов, общих для отрасли. (Компания уже добавляет тег «Imagined with AI» к фотореалистичным изображениям, созданным с использованием собственных инструментов AI.)
В сообщении в блоге, опубликованном в пятницу, Meta объявила о планах начать маркировать контент, созданный ИИ, в мае 2024 года и прекратить автоматическое удаление такого контента в июле 2024 года. -созданные изображения и видео должны быть удалены. Мета объяснила, что это изменение связано с отзывами наблюдательного совета, а также опросами общественного мнения и консультациями с учеными и другими экспертами.
«Если мы определим, что созданные или измененные в цифровом формате изображения, видео или аудио создают особенно высокий риск материального обмана общественности по важному вопросу, мы можем добавить более заметную метку, чтобы люди имели больше информации и контекста», — сказал Мета. в своем блоге. «Этот общий подход дает людям больше информации о контенте, чтобы они могли лучше его оценить и иметь контекст, если увидят тот же контент где-то еще».
Наблюдательный совет Meta, созданный в 2020 году для проверки политики модерации контента компании, обнаружил, что существующий подход Meta к модерации искусственного интеллекта слишком узок. Написанная в 2020 году, когда контент, созданный ИИ, был относительно редок, политика распространялась только на видео, которые были созданы или изменены ИИ, чтобы создать впечатление, будто человек сказал что-то, чего он не говорил. Учитывая недавние достижения в области генеративного искусственного интеллекта, совет заявил, что политика теперь должна также охватывать любые типы манипуляций, которые показывают, что кто-то делает то, чего он не делал.
Кроме того, совет утверждает, что удаление средств массовой информации, манипулируемых ИИ, которые в остальном не нарушают стандарты сообщества Meta, может ограничить свободу выражения мнений. Таким образом, совет рекомендовал менее ограничительный подход, при котором Meta помечала бы медиа как созданные ИИ, но при этом позволяла бы пользователям просматривать их.
Meta и другие компании столкнулись с жалобами на то, что отрасль не предприняла достаточных мер для борьбы с распространением фейковых новостей. Использование манипулируемых СМИ вызывает особую тревогу, поскольку в США и многих других странах проводятся выборы 2024 года, видео и изображения кандидатов на которых можно легко подделать.
«Мы хотим помочь людям узнать, когда фотореалистичные изображения были созданы или отредактированы с помощью ИИ, поэтому мы продолжим сотрудничать с коллегами из отрасли через такие форумы, как Партнерство по ИИ, и будем поддерживать диалог с правительствами и гражданским обществом - и мы будем Продолжайте пересматривать наш подход по мере развития технологий», — добавила Meta в своем сообщении.