Обновлен набор инструментов по этике искусственного интеллекта, включающий больше компонентов оценки
Вторая версия Veritas Toolkit включает в себя методологии оценки подотчетности и прозрачности, которые помогут финансовым учреждениям «ответственно» использовать искусственный интеллект.
Был обновлен набор программных инструментов, чтобы помочь финансовым учреждениям охватить больше областей при оценке «ответственного» использования искусственного интеллекта (ИИ).
Инструментарий оценки, впервые запущенный в феврале прошлого года, фокусируется на четырех ключевых принципах справедливости, этики, подотчетности и прозрачности, которые в совокупности называются FEAT. Он предлагает контрольный список и методологии для предприятий финансового сектора, позволяющие определить цели использования ИИ и анализа данных и выявить потенциальную предвзятость.
Набор инструментов был разработан консорциумом во главе с Валютным управлением Сингапура (MAS), который скомпрометировал 31 игрока отрасли, включая Bank of China, BNY Mellon, Google Cloud, Microsoft, Goldman Sachs, Visa, OCBC Bank, Amazon Web Services, IBM, и Ситибанк.
Первый выпуск инструментария был посвящен методологии оценки компонента «справедливости» в принципах FEAT, которая включала автоматизацию оценки метрик и визуализацию этого принципа.
По словам MAS, вторая итерация была обновлена и теперь включает методологии проверки трех других принципов, а также улучшенную методологию оценки «справедливости». Несколько банков консорциума протестировали этот инструментарий.
Доступный на GitHub набор инструментов с открытым исходным кодом позволяет использовать плагины, обеспечивающие интеграцию с ИТ-системами финансового учреждения.
Консорциум под названием Veritas также разработал новые варианты использования, чтобы продемонстрировать, как можно применять методологию, и предложить ключевые уроки внедрения. В их число входит тематическое исследование с участием компании Swiss Reinsurance, которая провела оценку прозрачности своей функции прогнозирования андеррайтинга на основе искусственного интеллекта. Google также поделилась своим опытом применения методологий FEAT в своих платежных системах по обнаружению мошенничества в Индии и картирования своих принципов и процессов искусственного интеллекта.
Veritas также опубликовала официальный документ, в котором изложены уроки семи финансовых учреждений, включая Standard Chartered Bank и HSBC, по интеграции методологии оценки ИИ с их системой внутреннего управления. К ним относятся необходимость в «ответственной структуре ИИ», охватывающей географические регионы, и модели, основанной на рисках, для определения управления, необходимого для сценариев использования ИИ. В документе также подробно описывается ответственная практика искусственного интеллекта и обучение нового поколения специалистов по искусственному интеллекту в финансовом секторе.
Директор по финансовым технологиям MAS Сопненду Моханти сказал: «Учитывая быстрые темпы развития искусственного интеллекта, крайне важно, чтобы финансовые учреждения создали надежную систему для ответственного использования искусственного интеллекта. Veritas Toolkit версии 2.0 позволит финансовым учреждениям и финтех-компаниям эффективно оценивать их варианты использования ИИ для обеспечения справедливости, этики, подотчетности и прозрачности. Это поможет продвигать ответственную экосистему ИИ».
Правительство Сингапура определило шесть основных рисков, связанных с генеративным искусственным интеллектом, и предложило схему решения этих проблем. Он также учредил фонд, который стремится привлечь сообщество открытого исходного кода к разработке наборов инструментов тестирования, которые снижают риски внедрения ИИ.
Во время своего визита в Сингапур в начале этого месяца генеральный директор OpenAI Сэм Альтман призвал к развитию генеративного искусственного интеллекта наряду с общественными консультациями, при этом люди сохраняют контроль. Он сказал, что это важно для смягчения потенциальных рисков или вреда, которые могут быть связаны с внедрением ИИ.
Альтман сказал, что также крайне важно решить проблемы, связанные с предвзятостью и локализацией данных, поскольку ИИ набирает обороты и интерес наций. Для OpenAI, детища ChatGPT, это означало выяснение того, как обучить свою генеративную платформу искусственного интеллекта на наборах данных, которые были «настолько разнообразными, насколько это возможно» и которые, среди прочего, охватывали множество культур, языков и ценностей.