Массовое внедрение инструментов генеративного искусственного интеллекта сводит на нет один очень важный фактор, говорят в MIT.
Быстрый темп развития ИИ приводит к созданию «теневого ИИ», что затрудняет ответственное использование ИИ, предупреждает исследование MIT Sloan Management Review и BCG.
Каждый день появляются новые платформы и инструменты искусственного интеллекта (ИИ), призванные помочь разработчикам, специалистам по обработке данных и бизнес-аналитикам. Однако этот быстрый рост новых технологий также увеличивает сложность созвездий ИИ, выходящую далеко за рамки ответственности и подотчетности в системах ИИ.
К такому выводу пришел недавний опрос 1240 руководителей, опубликованный MIT Sloan Management Review и Boston Consulting Group (MIT SMR и BCG), в котором был рассмотрен прогресс в области ответственных инициатив в области ИИ, а также внедрение инструментов ИИ как внутреннего, так и внешнего происхождения. то, что исследователи называют «теневым ИИ».
Перспективы ИИ сопряжены с последствиями, предполагают авторы исследования Элизабет Реньерис (Оксфордский институт этики ИИ), Дэвид Кирон (MIT SMR) и Стивен Миллс (BCG): «Например, генеративный ИИ оказался громоздким и непредсказуемым. риски для организаций, неподготовленных к широкому спектру вариантов использования».
Многие компании «были застигнуты врасплох распространением теневого использования ИИ по всему предприятию», отмечают Реньерис и ее соавторы. Более того, быстрые темпы развития ИИ «усложняют ответственное использование ИИ и вынуждают ответственные программы ИИ идти в ногу со временем».
Они предупреждают, что риски, исходящие от постоянно растущего теневого ИИ, также растут. Например, растущая зависимость компаний от растущего предложения сторонних инструментов искусственного интеллекта, а также быстрое внедрение генеративных алгоритмов искусственного интеллекта (таких как ChatGPT, Dall-E 2 и Midjourney), которые используют обучающие данные для создания реалистичных или кажущихся фактический текст, изображения или аудио — подвергает их новым коммерческим, юридическим и репутационным рискам, которые трудно отследить.
Исследователи отмечают важность ответственного ИИ, который они определяют как «структуру с принципами, политиками, инструментами и процессами, обеспечивающими разработку и эксплуатацию систем ИИ на благо отдельных людей и общества, при этом обеспечивая преобразующее воздействие на бизнес». ."
Еще одна трудность связана с тем, что ряд компаний «похоже, сокращают внутренние ресурсы, выделяемые на ответственный ИИ, в рамках более широкой тенденции увольнений в отрасли», предупреждают исследователи. «Эти сокращения ответственных инвестиций в ИИ происходят, возможно, именно тогда, когда они больше всего необходимы».
Например, широкое использование сотрудниками чат-бота ChatGPT застало многие организации врасплох и может иметь последствия для безопасности. Исследователи говорят, что ответственные структуры ИИ не были созданы для того, чтобы «справиться с внезапным, невообразимым количеством рисков, которые создают инструменты генеративного ИИ».
Исследование показывает, что 78% организаций сообщают о доступе, покупке, лицензировании или ином использовании сторонних инструментов искусственного интеллекта, включая коммерческие API, предварительно обученные модели и данные. Более половины (53%) полагаются исключительно на сторонние инструменты искусственного интеллекта и не имеют собственных собственных технологий искусственного интеллекта.
Ответственные программы ИИ «должны охватывать как собственные, так и сторонние инструменты ИИ», призывают Реньерис и ее соавторы. «Независимо от того, откуда взялась система искусственного интеллекта, должны применяться одни и те же этические принципы. В конечном итоге, если что-то пойдет не так, для человека не будет иметь значения, на кого это негативно повлияет, если инструмент будет создан или куплен».
Соавторы предупреждают, что, хотя «не существует серебряной пули для смягчения рисков, связанных с ИИ со стороны третьих сторон, или любого типа рисков ИИ в этом отношении», они призывают к многостороннему подходу к обеспечению ответственного ИИ в сегодняшней широко открытой среде.
Такие подходы могут включать следующее:
- Оценка ответственной практики ИИ поставщика
- Договорные формулировки, обязывающие соблюдать принципы ответственного ИИ
- Предварительная сертификация и аудит поставщиков (при наличии)
- Внутренние проверки на уровне продукта (когда сторонний инструмент интегрирован в продукт или услугу)
- Соблюдение соответствующих нормативных требований или отраслевых стандартов.
- Включение комплексного набора политик и процедур, таких как рекомендации по этической разработке ИИ, системы оценки рисков, а также протоколы мониторинга и аудита.
Соавторы предупреждают, что спектр законов и правительственных постановлений может сделать такие действия необходимыми по мере внедрения систем искусственного интеллекта.