Китай и США подписали многосторонний пакт о сотрудничестве в борьбе с рисками, связанными с ИИ

Опубликованная Великобританией Декларация Блетчли объединяет 28 стран в соглашении о коллективном выявлении и управлении потенциальными рисками, исходящими от «пограничного» искусственного интеллекта.

Группа из 28 стран, включая Китай и США, договорилась работать вместе над выявлением и управлением потенциальными рисками, исходящими от «пограничного» искусственного интеллекта (ИИ), что стало первым подобным многосторонним соглашением.

Опубликованная Великобританией Декларация Блетчли о безопасности ИИ отражает признание странами «насущной необходимости» обеспечить разработку и внедрение ИИ «безопасным и ответственным способом» на благо мирового сообщества. Эти усилия требуют более широкого международного сотрудничества, согласно Декларации, которая была одобрена странами Азии, ЕС и Ближнего Востока, включая Сингапур, Японию, Индию, Францию, Австралию, Германию, Южную Корею, Объединенные Арабские Эмираты и Нигерию. .

Страны признают, что значительные риски могут возникнуть в результате преднамеренного неправильного использования или непреднамеренных проблем контроля передового ИИ, в частности, рисков, связанных с кибербезопасностью, биотехнологиями и дезинформацией. Декларация указывает на потенциально серьезный и катастрофический вред от моделей ИИ, а также на риски, связанные с предвзятостью и конфиденциальностью.

Наряду с признанием того, что риски и возможности все еще не до конца поняты, страны согласились сотрудничать и выработать общее «научное и основанное на фактических данных понимание» передовых рисков ИИ.

В Декларации передовой ИИ описывается как системы, которые включают в себя «высокофункциональные модели ИИ общего назначения», включая базовые модели, которые могут выполнять широкий спектр задач, а также конкретные, узкие ИИ.

«Мы полны решимости работать вместе инклюзивным образом, чтобы обеспечить ориентированный на человека, заслуживающий доверия и ответственный ИИ, который безопасен и поддерживает всеобщее благо посредством существующих международных форумов и других соответствующих инициатив», — говорится в Декларации.

«При этом мы признаем, что страны должны учитывать важность инновационного и пропорционального подхода к управлению и регулированию, который максимизирует выгоды и учитывает риски, связанные с ИИ».

Этот подход может включать в себя создание классификаций и категорий рисков на основе местных обстоятельств страны и применимых правовых рамок. Также может возникнуть потребность в сотрудничестве по новым подходам, таким как общие принципы и кодексы поведения.

Усилия группы будут сосредоточены на разработке политики, основанной на рисках, во всех странах, сотрудничестве, где это необходимо, и признании того, что подходы на национальном уровне могут отличаться. Наряду с необходимостью повышения прозрачности со стороны частных субъектов, которые разрабатывают передовые возможности искусственного интеллекта, эти новые усилия включают разработку соответствующих показателей оценки и инструментов для испытаний на безопасность, а также возможностей государственного сектора и научных исследований.

Премьер-министр Великобритании Риши Сунак заявил: «Это знаковое достижение, благодаря которому величайшие мировые державы в области ИИ пришли к единому мнению о безотлагательности понимания рисков, связанных с ИИ».

Министр технологий Великобритании Мишель Донелан добавила: «Мы всегда говорили, что ни одна страна не может справиться с проблемами и рисками, создаваемыми ИИ, в одиночку, и сегодняшняя знаменательная декларация знаменует собой начало новых глобальных усилий по укреплению общественного доверия путем обеспечения безопасного развития технологий. ."

На этой неделе также было объявлено о проекте под руководством Сингапура, известном как Sandbox, целью которого является предоставление стандартного набора тестов для оценки продуктов генеративного ИИ. Инициатива объединяет ресурсы крупных мировых игроков, включая Anthropic и Google, и руководствуется проектом каталога , в котором классифицируются текущие тесты и методы, используемые для оценки больших языковых моделей.

В каталоге собраны широко используемые инструменты технического тестирования, упорядоченные в соответствии с тем, что они тестируют, и их методами, а также рекомендован базовый набор тестов для оценки продуктов генеративного ИИ. Цель состоит в том, чтобы установить общий язык и поддержать «более широкое, безопасное и заслуживающее доверия внедрение генеративного ИИ».

В прошлом месяце Организация Объединенных Наций (ООН) создала консультативную группу для изучения того, как следует управлять ИИ для смягчения потенциальных рисков, с обязательством принять «глобально инклюзивный» подход. В настоящее время этот орган состоит из 39 членов и включает в себя представителей правительственных учреждений, частных организаций и научных кругов, таких как главный специалист по искусственному интеллекту правительства Сингапура, государственный секретарь Испании по цифровизации и искусственному интеллекту и технический директор OpenAI.