Сторонние инструменты ИИ ответственны за 55% сбоев ИИ в бизнесе
Генеративный ИИ популярен как никогда, но он того не стоит, если не использовать его ответственно.
Представьте себе, что вы запускаете погодное приложение на базе искусственного интеллекта и видите чистое небо в прогнозе для корпоративного пикника в тот день, а в конечном итоге стоите под проливным дождем с мокрым хот-догом. Или ваша компания внедрила инструмент искусственного интеллекта для поддержки клиентов, но который плохо интегрируется с вашей CRM и теряет ценные данные о клиентах.
Согласно новому исследованию, сторонние инструменты искусственного интеллекта ответственны за более чем 55% сбоев, связанных с искусственным интеллектом, в организациях. Эти неудачи могут привести к репутационному ущербу, финансовым потерям, потере доверия потребителей и даже судебным разбирательствам. Опрос был проведен MIT Sloan Management Review и Boston Consulting Group и был сосредоточен на том, как организации решают проблему ответственного ИИ, подчеркивая реальные последствия невыполнения этого требования.
«Предприятия не полностью адаптировали свои сторонние программы управления рисками к контексту ИИ или задачам безопасного развертывания сложных систем, таких как продукты генеративного ИИ», — сказал исследователям MIT Филип Доусон, руководитель отдела политики ИИ в Armilla AI. «Многие не подвергают поставщиков ИИ или их продукты тем видам оценки, которые проводятся с точки зрения кибербезопасности, что делает их слепыми к рискам развертывания сторонних решений ИИ».
Выпуск ChatGPT почти год назад спровоцировал бум генеративного искусственного интеллекта в технологиях. Вскоре другие компании последовали примеру OpenAI и выпустили свои собственные чат-боты с искусственным интеллектом, в том числе Microsoft Bing и Google Bard. Популярность и возможности этих ботов также уступили место этическим проблемам и вопросам.
По мере роста популярности ChatGPT как отдельного приложения, так и API, сторонние компании начали использовать его возможности и разрабатывать аналогичные чат-боты с искусственным интеллектом для создания генеративных решений с использованием искусственного интеллекта для поддержки клиентов, создания контента, ИТ-помощи и проверки грамматики.
Из 1240 респондентов опроса в 87 странах 78% сообщили, что их компании используют сторонние инструменты искусственного интеллекта, получая к ним доступ, покупая или лицензируя их. Из этих организаций 53% используют исключительно сторонние инструменты без каких-либо собственных технологий искусственного интеллекта. Хотя более трех четвертей опрошенных компаний используют сторонние инструменты искусственного интеллекта, 55% сбоев, связанных с искусственным интеллектом, происходят из-за использования этих инструментов.
Несмотря на то, что 78% опрошенных полагаются на сторонние инструменты искусственного интеллекта, 20% не смогли оценить существенные риски, которые они представляют. Исследование пришло к выводу, что ответственного ИИ (RAI) труднее достичь, когда команды привлекают поставщиков без надзора, и необходима более тщательная оценка сторонних инструментов.
«Работая с клиентами в регулируемых отраслях, таких как финансовые услуги, мы видим тесную связь между модельными практиками управления рисками, основанными на каком-то внешнем регулировании, и тем, что мы предлагаем людям делать с точки зрения RAI», — говорит Тривени Ганди, ответственный руководитель ИИ в компании, занимающейся искусственным интеллектом. Датаику.
Сторонний ИИ может быть неотъемлемой частью организационных стратегий ИИ, поэтому проблему нельзя решить, удалив технологию. Вместо этого исследователи рекомендуют тщательные стратегии оценки рисков, такие как аудит поставщиков, внутренние проверки и соблюдение отраслевых стандартов.
Учитывая то, как быстро развивается нормативно-правовая среда RAI, исследователи полагают, что организации должны уделять приоритетное внимание ответственному ИИ, начиная с отделов регулирования и заканчивая генеральным директором. Организации, генеральный директор которых занимается RAI, сообщили о на 58% больше преимуществ для бизнеса, чем организации, генеральный директор которых не участвует непосредственно в RAI.
Исследование также показало, что организации, генеральный директор которых участвует в RAI, почти в два раза чаще инвестируют в RAI, чем организации, генеральный директор которых не вмешивается в процесс.