Adobe хочет, чтобы вы помогли найти бреши безопасности в Content Credentials и Firefly.
Adobe расширяет свою программу вознаграждения за обнаружение ошибок. Если вы этический хакер или исследователь безопасности, вот как вы можете присоединиться (и получать вознаграждения).
Закрытие дыр в безопасности жизненно важно для защиты моделей генеративного искусственного интеллекта (ИИ) от злоумышленников, создания вредоносных изображений и других потенциальных злоупотреблений. Чтобы обеспечить максимальную безопасность некоторых из своих последних и крупнейших проектов в области искусственного интеллекта, Adobe в среду расширила программу вознаграждения за обнаружение ошибок, которая вознаграждает исследователей в области безопасности за поиск и раскрытие ошибок, включив в нее Content Credentials и Adobe Firefly.
Учетные данные контента — это защищенные от несанкционированного доступа метаданные, прикрепленные к цифровому контенту, которые служат «маркировкой питания», позволяя пользователям видеть «ингредиенты» контента, такие как имя создателя, дату создания, любые инструменты, использованные для создания изображения (включая генеративные модели искусственного интеллекта). ) и внесенные правки.
В эпоху изображений, генерируемых искусственным интеллектом, этот инструмент происхождения может помочь людям отличить синтетический контент от созданного руками человека. Однако это работает только в том случае, если учетные данные контента защищены от несанкционированного доступа и используются по назначению. В настоящее время Adobe занимается краудсорсингом усилий по обеспечению безопасности учетных данных контента через свою программу вознаграждения за ошибки, чтобы усилить защиту от потенциальных злоупотреблений, таких как неправильное прикрепление учетных данных к неправильному контенту.
Некоторые генераторы изображений AI, такие как Adobe Firefly, автоматически прикрепляют учетные данные контента к контенту, созданному AI. Firefly — это группа генеративных моделей искусственного интеллекта Adobe, которые могут создавать изображения из подсказок, других изображений и многого другого. Это семейство моделей легко доступно публике через отдельное веб-приложение и некоторые из самых популярных приложений Adobe, включая Photoshop.
В пресс-релизе говорится, что Adobe хочет, чтобы исследователи безопасности протестировали Firefly на предмет основных рисков безопасности Open Worldwide Application Security Project (OWASP) в приложениях с большой языковой моделью (LLM), таких как быстрое внедрение, раскрытие конфиденциальной информации и отравление обучающих данных. Затем Adobe будет использовать эту обратную связь, чтобы сосредоточить свои исследования и дальнейшие усилия на устранении недостатков Firefly.
«Активно взаимодействуя с сообществом безопасности, мы надеемся получить дополнительную информацию о состоянии безопасности наших генеративных технологий искусственного интеллекта, что, в свою очередь, предоставит ценную информацию для нашей внутренней программы безопасности», — говорится в сообщении Adobe.
Adobe приглашает этических хакеров, заинтересованных в участии в программе вознаграждений за обнаружение ошибок, посетить страницу Adobe HackerOne и подать заявку через эту форму, в которой задаются вопросы об исследованиях и опыте заявителя в области безопасности.
Помимо Content Credentials и Adobe Firefly, программа вознаграждений за ошибки доступна для большинства веб-приложений Adobe, а также настольных и мобильных версий приложений Creative Cloud. Вы можете найти полный список включенных приложений на веб-странице программы Adobe Bug Bounty.
Как ни странно, хотя на странице HackerOne указаны вознаграждения в диапазоне от 100 до 10 000 долларов, на веб-странице Adobe говорится, что «эта программа не предусматривает денежное вознаграждение за сообщения об ошибках. " Неясно, относится ли это только к частной программе Adobe по вознаграждению за обнаружение ошибок.
Отдельно у OpenAI также есть программа вознаграждений за обнаружение ошибок, с помощью которой исследователи безопасности могут заработать от 200 до 20 000 долларов США, в зависимости от типа уязвимости.