Помните о разрыве доверия: проблемы с данными заставляют клиентов проявлять осторожность в отношении генеративного ИИ
Общее отсутствие доверия к безопасности и конфиденциальности данных удерживает организации от использования генеративного искусственного интеллекта.
Генеративный искусственный интеллект (ИИ) считается необходимым для организаций, чтобы обеспечить свою рыночную актуальность, но некоторые по-прежнему не решаются сделать решительный шаг из-за опасений по поводу данных и доверия.
Эти проблемы особенно актуальны для предприятий, которые работают в секторах со строгими правилами управления данными и большой клиентской базой, что заставляет их выжидать с внедрением инструментов генеративного искусственного интеллекта, несмотря на их разрекламированные преимущества.
Например, возможность генерировать отчеты о продажах с помощью подсказок вместо необходимости вручную работать с электронными таблицами открывает интересный потенциал для генеративных инструментов искусственного интеллекта, таких как Einstein Copilot от Salesforce, сказал Сарвар Фарук, руководитель отдела разработки в Jollibee Foods Corporation. Филиппинский оператор сети ресторанов использует Heroku от Salesforce для создания своих приложений и Mulesoft в качестве промежуточного программного обеспечения для подключения своих приложений, включая ERP и системы управления заказами.
В компании Jollibee работают 15 000 сотрудников и управляются почти 4 000 магазинов по всему миру в 34 странах. Ее приложения работают преимущественно в облаке, поэтому у нее нет собственных центров обработки данных, за исключением небольшой интрасети.
Фарук также видит потенциал использования ИИ в производстве, где он может повысить эффективность производственного конвейера и сборки. Например, ИИ может помочь контролировать качество продуктов питания и прогнозировать спрос.
Однако его интерес к потенциальному использованию ИИ по-прежнему ограничивается серверными операциями. Фарук непреклонен в том, чтобы держать генерирующий искусственный интеллект подальше от взаимодействия с клиентами и операций с клиентами — по крайней мере, на данный момент.
По его словам, поскольку технология все еще находится в зачаточном состоянии, еще многое предстоит понять и проработать.
«Мы видим результаты [и ответы], которые он генерирует, но не совсем понимаем, как [он пришел к ответу]», — сказал он. «Есть этот черный ящик... его нужно развеять. Я хочу знать, как он работает, как пришел к такому ответу и можно ли повторить этот ответ [каждый раз, когда задается вопрос]».
По его словам, в настоящее время это не так, добавив, что риск галлюцинаций также вызывает беспокойство. А в отсутствие инцидента безопасности мало что известно о том, существуют ли какие-либо проблемы кибербезопасности, которые необходимо решить, отметил он.
«Сейчас очень много маркетинга [хайпа]», — сказал Фарук, добавив, что недостаточно просто говорить о «доверии», не раскрывая подробностей о том, что именно это означает.
Он призвал производителей ИИ объяснить, как формируются их большие языковые модели, какие данные они потребляют и что именно они делают для генерации ответов. «Им нужно перестать вести себя так, будто это волшебство, [когда] этим управляет код и за этим стоит наука», — сказал он. «Помогите нам понять это, [потому что] нам не нравится внедрять технологию, о которой у нас нет четкого понимания».
Он подчеркнул необходимость подотчетности и прозрачности, а также гарантий того, что данные клиентов, используемые для обучения моделей ИИ, не будут обнародованы. Это очень важно, особенно для организаций, которым необходимо соблюдать правила конфиденциальности данных в своей местной юрисдикции.
По его словам, пока эти проблемы не будут решены, он не желает подвергать риску данные своих клиентов.
Доверие также является тем, к чему серьезно относится Министерство торговли и промышленности Сингапура (MTI), особенно с точки зрения конфиденциальности и безопасности данных. В ведении министерства находятся десять государственных ведомств, в том числе ЕАБР и Совет по туризму Сингапура.
В частности, данные министерства должны храниться в Сингапуре, и это оказывается большим препятствием в обеспечении безопасности и управления данными, сказала директор по информационным технологиям семейства MTI Шэрон Нг. Это означает, что любые модели искусственного интеллекта и большие языковые модели, которые он использует, должны размещаться в собственной среде, даже те, которые управляются американскими поставщиками, такими как платформа Einstein Copilot от Salesforce.
Как и Фарук, Нг также подчеркнула необходимость прозрачности, в частности деталей того, как работает уровень безопасности, в том числе, какой тип шифрования используется и сохраняются ли данные, отметила она.
В настоящее время ее команда изучает, как инструменты генеративного искусственного интеллекта, включая инструменты Salesforce, могут принести пользу министерству, которое по-прежнему открыто для использования различных моделей искусственного интеллекта и больших языковых моделей, доступных на рынке. По ее словам, это будет дешевле, чем создание собственных моделей, и сократит время выхода на рынок.
Однако использование любой модели ИИ по-прежнему будет зависеть от соображений доверия и безопасности, отметила она. В настоящее время MTI запускает пилотные проекты генеративного искусственного интеллекта, целью которых является повышение операционной эффективности и упрощение рабочих задач во всех ее агентствах.
Для сингапурской телекоммуникационной компании M1 улучшение обслуживания клиентов является четким ключевым показателем эффективности генеративного ИИ. Однако, как и в случае с MTI и Jollibee, соответствие данных и доверие имеют решающее значение, сказал Ян Моргенталь, директор по цифровым технологиям M1. В настоящее время телекоммуникационная компания проводит проверку концепции, чтобы оценить, как генеративный искусственный интеллект может улучшить взаимодействие ее чат-бота с клиентами и может ли он поддерживать дополнительные языки, помимо английского.
По словам Моргенталя, это означает работу с поставщиками, чтобы выяснить параметры и понять, где развернуты большие языки и модели искусственного интеллекта. Подобно MTI и Jollibee, M1 также должна соблюдать правила, которые требуют, чтобы некоторые ее данные, в том числе размещенные на облачных платформах, находились на местном рынке.
По его словам, это требует обучения моделей искусственного интеллекта, которое будет проводиться в сетевой среде M1.
По его словам, сингапурской телекоммуникационной компании также необходимо быть осторожными с данными, используемыми для обучения моделей и полученными ответами, которые следует тестировать и проверять. Их необходимо не только проверять на соответствие рекомендациям, предусмотренным поставщиком, например, Trust Layer Salesforce, но также и на соответствие требованиям, установленным материнской компанией M1, Keppel.
Устранение разрыва в доверии к генеративному ИИ
Такие усилия окажутся критически важными на фоне падения доверия к использованию ИИ.
Согласно опросу Salesforce, опубликованному в прошлом месяце, и организации, и потребители сейчас менее открыты для использования ИИ, чем раньше. Около 73% бизнес-покупателей и 51% потребителей восприимчивы к технологиям, используемым для улучшения их опыта, что меньше, чем в 2022 году — 82% и 65% соответственно.
И хотя 76% клиентов доверяют компаниям честно заявлять о своих продуктах и услугах, менее 57% верят, что они используют ИИ этично. Еще 68% считают, что достижения ИИ сделали компании более важными, чтобы им можно было доверять.
Разрыв в доверии является серьезной проблемой и вызывает беспокойство для организаций, сказал Тим Диллон, основатель и директор Tech Research Asia, указывая на негативную реакцию, которую испытал Zoom, когда изменил свои Условия обслуживания, предоставив ему право использовать видео и аудио своих пользователей. и данные чата для обучения моделей искусственного интеллекта.
Поставщики генеративного искусственного интеллекта хотели бы избежать подобного сценария, сказал Диллон в интервью ZDNET в кулуарах выставки Dreamforce 2023, которая пройдет в Сан-Франциско на этой неделе. Такие игроки рынка, как Salesforce и Microsoft, предприняли усилия по устранению разрыва в доверии, что, по его мнению, было положительным шагом вперед.
«Помимо решения проблем доверия, организациям, планирующим внедрить генеративный искусственный интеллект, также следует подумать о внедрении управления изменениями», — отметил Фил Хэсси, генеральный директор и основатель исследовательской компании CapioIT.
Эта область часто остается за пределами обсуждения, рассказал Хэсси ZDNET. Организациям необходимо определить необходимые затраты и набор навыков, которые им необходимо приобрести, а также роли, которые необходимо переквалифицировать в результате внедрения генеративного ИИ.
По его словам, правильная стратегия управления изменениями является ключом к обеспечению плавного перехода и удержанию талантов.
Эйлин Ю, проживающая в Сингапуре, работала для ZDNET на конференции Dreamforce 2023 в Сан-Франциско по приглашению Salesforce.com.