По данным Consumer Reports, большинство инструментов клонирования голоса с искусственным интеллектом не защищены от мошенников

Consumer Reports оценил самые ведущие инструменты клонирования голоса, включая Descript и ElevenLabs. Вот вердикт.

За последние несколько лет технология клонирования голоса с искусственным интеллектом достигла значительных успехов, достигнув возможности создавать реалистично звучащий звук всего за несколько секунд выборки. Несмотря на то, что эта технология имеет множество положительных применений, таких как аудиокниги, маркетинговые материалы и многое другое, она также может быть использована для сложных афер, мошенничества и других вредоносных приложений.

Чтобы узнать больше о мерах безопасности, которые в настоящее время применяются к этим продуктам, Consumer Reports оценил шесть ведущих инструментов клонирования голоса: Descript, ElevenLans, Lovo, PlayHT, Resemble AI и Speechify. В частности, Consumer Reports искал надлежащие меры безопасности, которые предотвращали бы клонирование чьего-либо голоса без его ведома.

Результаты показали, что четыре из шести продуктов — от ElevenLabs, Speechify, PlayHT и Lovo — не имели технических механизмов, необходимых для предотвращения клонирования чьего-либо голоса без его ведома или для ограничения клонирования ИИ только голосом пользователя.

Вместо этого защита была ограничена коробкой, которую пользователи должны были отметить, подтверждая, что у них есть законное право клонировать голос. Исследователи обнаружили, что Descript и Resemble AI были единственными компаниями, которые предприняли дополнительные шаги, которые усложнили для клиентов проведение клонирования без согласия.

Descript попросил пользователя прочитать и записать заявление о согласии и использовал эту аудиозапись для создания клона. Like AI использует другой подход, гарантируя, что первый созданный клон голоса основан на аудио, записанном в режиме реального времени. Ни один из этих методов не является непроницаемым, так как пользователь может нажать кнопку воспроизведения на другом клонированном ИИ фрагменте или существующем видео на другом устройстве.

Распространенным применением клонирования без согласия является мошенничество с людьми. Например, популярная атака включает в себя клонирование голоса члена семьи, а затем использование этой записи для связи с близким человеком и просьбой отправить ему деньги, чтобы помочь ему выйти из тяжелой ситуации. Поскольку жертва думает, что слышит голос члена семьи, попавшего в беду, она с большей вероятностью отправит любые необходимые средства, не задаваясь вопросом о ситуации.

Клонирование голоса также использовалось для влияния на решения избирателей на предстоящих выборах, как это было на выборах 2024 года, когда кто-то клонировал голос бывшего президента Джо Байдена, чтобы отбить у людей желание приходить на избирательные участки.

Consumer Reports также обнаружил, что Speechify, Lovo, PlayHT и Descript требовали только адрес электронной почты и имя пользователя для создания учетной записи. Consumer Reports рекомендует этим компаниям также собирать информацию о кредитных картах клиентов, чтобы отследить мошенническое аудио до злоумышленника.

Другие рекомендации Consumer Reports включают механизмы обеспечения права собственности на голос, такие как зачитывание уникального сценария, нанесение водяных знаков на аудио, созданное ИИ, создание инструмента, который обнаруживает изображения, созданные ИИ, обнаружение и предотвращение клонирования голоса влиятельных или публичных личностей, а также запрет аудио, содержащего мошеннические фразы.

Самым большим отклонением от нынешней системы было бы предложение Consumer Report о том, чтобы кто-то контролировал клонирование голоса вместо текущего метода «сделай сам». Consumer Reports также заявил, что следует сделать акцент на том, чтобы необходимые субъекты понимали свою ответственность в случае неправомерного использования голосовой модели в договорном соглашении.

Consumer Reports считает, что у компаний есть договорные обязательства в соответствии с разделом 5 Закона о Федеральной торговой комиссии по защите своей продукции от использования во вредных целях, что может быть достигнуто только путем добавления дополнительных мер защиты.

Если вам срочно звонит знакомый человек с требованием денег, не паникуйте. Используйте другое устройство, чтобы напрямую связаться с этим человеком и подтвердить запрос. Если вы не можете связаться с этим человеком, вы также можете задать ему вопросы, чтобы подтвердить его личность. Чтобы ознакомиться с полным списком того, как защитить себя от мошеннических звонков с искусственным интеллектом, ознакомьтесь с советами ZDNET здесь.