Сингапур стремится расширить структуру управления генеративным искусственным интеллектом
Стремясь сбалансировать безопасность пользователей с инновациями, Сингапур хочет получить отзывы о предлагаемом обновлении существующей в стране системы управления искусственным интеллектом.
Сингапур опубликовал проект структуры управления генеративным искусственным интеллектом (GenAI), который, по его словам, необходим для решения возникающих проблем, включая отчетность об инцидентах и происхождение контента.
Предлагаемая модель основана на существующей в стране системе управления ИИ, которая была впервые выпущена в 2019 году и последний раз обновлялась в 2020 году.
GenAI обладает значительным потенциалом для трансформации «сверх того», чего может достичь традиционный ИИ, но он также сопряжен с рисками, говорится в совместном заявлении AI Verify Foundation и Infocomm Media Development Authority (IMDA).
По данным правительственных учреждений Сингапура, во всем мире растет консенсус в отношении того, что последовательные принципы необходимы для создания среды, в которой GenAI можно будет использовать безопасно и уверенно.
«Использование и влияние ИИ не ограничивается отдельными странами», — заявили они. «Предлагаемая структура призвана облегчить международные переговоры между политиками, промышленностью и исследовательским сообществом, чтобы обеспечить надежное развитие во всем мире».
Проект документа включает в себя предложения из дискуссионного документа, опубликованного IMDA в июне прошлого года, в котором определены шесть рисков, связанных с GenAI, включая галлюцинации, проблемы с авторскими правами и встроенные предубеждения, а также основы того, как с ними можно справиться.
Предлагаемая структура управления GenAI также опирается на идеи предыдущих инициатив, включая каталог о том, как оценивать безопасность моделей GenAI и тестирование, проводимое через оценочную песочницу.
Проект модели управления GenAI охватывает девять ключевых областей, которые, по мнению Сингапура, играют ключевую роль в поддержке заслуживающей доверия экосистемы ИИ. Они основаны на принципах, согласно которым решения, принимаемые на основе ИИ, должны быть объяснимыми, прозрачными и справедливыми. По словам IMDA и AI Verify, эта структура также предлагает практические предложения, которые разработчики моделей ИИ и политики могут применять в качестве начальных шагов.
Один из девяти компонентов рассматривает происхождение контента: должна быть прозрачность относительно того, где и как создается контент, чтобы потребители могли решать, как обращаться с онлайн-контентом. По словам сингапурских агентств, поскольку контент, генерируемый искусственным интеллектом, такой как дипфейки, может быть легко создан, он может усугубить дезинформацию.
Отметив, что другие правительства рассматривают технические решения, такие как цифровые водяные знаки и криптографическое происхождение, для решения этой проблемы, они заявили, что они направлены на маркировку и предоставление дополнительной информации, а также используются для пометки контента, созданного или модифицированного ИИ.
Согласно проекту структуры, политика должна быть «тщательно разработана», чтобы облегчить практическое использование этих инструментов в правильном контексте. Например, в ближайшем будущем может оказаться невозможным включить эти технологии во весь созданный или отредактированный контент, а информация о происхождении также может быть удалена. Злоумышленники могут найти другие способы обойти эти инструменты.
Проект структуры предлагает работать с издателями, включая платформы социальных сетей и средства массовой информации, для поддержки внедрения и отображения цифровых водяных знаков и других деталей происхождения. Они также должны быть правильно и надежно реализованы, чтобы снизить риски обхода.
Другой ключевой компонент сосредоточен на безопасности, где GenAI принес с собой новые риски, такие как быстрые атаки, зараженные через архитектуру модели. Согласно проекту структуры, это позволяет злоумышленникам извлекать конфиденциальные данные или веса моделей.
Он рекомендует внести изменения в концепции безопасности при проектировании, которые применяются к жизненному циклу разработки систем. Им нужно будет, например, рассмотреть, как возможность использования естественного языка в качестве входных данных может создать проблемы при реализации соответствующих мер безопасности.
Вероятностный характер GenAI также может создать новые проблемы для традиционных методов оценки, которые используются для совершенствования системы и снижения рисков на жизненном цикле разработки.
Структура предусматривает разработку новых мер безопасности, которые могут включать инструменты модерации ввода для обнаружения небезопасных запросов, а также инструменты цифровой криминалистики для GenAI, используемые для расследования и анализа цифровых данных для реконструкции инцидента кибербезопасности.
«Необходимо найти тщательный баланс между защитой пользователей и стимулированием инноваций», — заявили правительственные учреждения Сингапура о проекте правительственной структуры. «Были различные международные дискуссии, затрагивающие, среди прочего, связанные и актуальные темы подотчетности, авторского права и дезинформации. Эти вопросы взаимосвязаны, и их необходимо рассматривать практически и целостно. Ни одно отдельное вмешательство не будет панацеей. "
По их словам, поскольку управление ИИ все еще находится в зачаточном состоянии, ключевым моментом также является достижение международного консенсуса, указывая на усилия Сингапура по сотрудничеству с такими правительствами, как США, для согласования их соответствующей структуры управления ИИ.
Сингапур принимает отзывы по проекту структуры управления GenAI до 15 марта.