Почему этика становится самой большой проблемой ИИ
В команды, разрабатывающие ИИ, должны входить эксперты в области лингвистики и философии, родители, молодые люди, обычные люди с разным жизненным опытом и разным социально-экономическим положением.
Многие организации либо откладывают, либо отключают генеративный искусственный интеллект из-за опасений по поводу его этики и безопасности. Это побуждает к выводу ИИ из технологических отделов и привлечению большего числа нетехнических представителей бизнеса к проектированию и управлению ИИ.
Согласно недавнему опросу, проведенному IBM Institute for Business Value, более половины (56%) компаний откладывают крупные инвестиции в генеративный ИИ до тех пор, пока не появится ясность в отношении стандартов и правил ИИ. По меньшей мере 72% заявили, что готовы отказаться от преимуществ генеративного ИИ из-за этических соображений.
Сложнее, чем технологические вопросы
Многие технические проблемы, связанные с искусственным интеллектом, уже решены, но тяжелая работа, связанная с этикой ИИ, теперь выходит на первый план. Это оказывается даже более сложной задачей, чем решение технологических проблем.
Задача команд разработчиков на этом этапе состоит в том, чтобы «признать, что создание этического ИИ — это не строго техническая проблема, а социотехническая проблема», — сказала Федра Бойнодирис, глобальный лидер в области надежного ИИ в IBM Consulting, в недавнем подкасте. Это означает, что надзор за использованием ИИ должен выйти за рамки групп ИТ и управления данными в организациях.
Чтобы создавать ответственно подобранные модели ИИ, «вам нужна команда, состоящая не только из специалистов по данным», — сказал Бойнодирис. «На протяжении десятилетий мы говорили, что те, у кого нет традиционных знаний в предметной области, не принадлежат к этой комнате. Это огромная ошибка».
Команды ИИ должны задать себе эти вопросы
Также примечательно, что хорошо подобранные модели ИИ «также являются более точными моделями», добавила она. Чтобы добиться этого, «команда, разрабатывающая модель, должна быть многопрофильной, а не разрозненной». Идеальная команда ИИ должна включать «экспертов в области лингвистики и философии, родителей, молодых людей, обычных людей с разным жизненным опытом и разным социально-экономическим положением», призвала она. «Чем шире разнообразие, тем лучше». Члены команды должны взвесить ответы на следующие типы вопросов:
- «Решает ли этот ИИ ту проблему, которая нам нужна?»
- «Являются ли это верными данными по мнению экспертов в предметной области?»
- «Каковы непредвиденные последствия применения ИИ?»
- «Как мы можем смягчить эти последствия?»
Очень важно стратегически
Лидеры бизнеса, возможно, становятся все более осторожными в отношении этических последствий использования ИИ, но они также видят в строгом соблюдении этики источник конкурентной силы. Семьдесят пять процентов руководителей рассматривают этику ИИ как важный источник конкурентной дифференциации, а большинство — 54% — ожидают, что этика ИИ будет «очень важной со стратегической точки зрения». Это важный сигнал для заинтересованных сторон: более 85% опрошенных потребителей, граждан и сотрудников ценят этику ИИ.
В отчете IBM говорится, что целостная концепция этики ИИ определяет три типа рентабельности инвестиций, которые могут быть получены в результате инвестиций в этику ИИ:
- Экономическое воздействие (материальная рентабельность инвестиций): Ощутимые или прямые финансовые выгоды от этики ИИ охватывают измеримые факторы, «такие как экономия средств, увеличение доходов или снижение стоимости капитала. Например, организация может избежать штрафов со стороны регулирующих органов. инвестируя в управление рисками ИИ».
- Влияние на возможности (долгосрочная рентабельность инвестиций): Это намекает на долгосрочные преимущества усилий по этике ИИ. Примеры могут включать: «Техническая инфраструктура или специальные этические платформы могут позволить организациям модернизироваться таким образом, чтобы привести к дальнейшей экономии затрат и инновациям».
- Репутационный эффект (нематериальная рентабельность инвестиций): Нематериальные или трудно поддающиеся количественной оценке выгоды, возникающие в результате активных усилий по этике ИИ, охватывают такие факторы, как бренд и культура, которые положительно влияют на «репутацию организации среди акционеров, правительств, сотрудники и клиенты». Это может включать «улучшение экологических, социальных и управленческих показателей; увеличение удержания сотрудников; и положительное освещение в СМИ».
Многие руководители и менеджеры не полностью осознают три потенциальных области воздействия, которые могут оказать усилия по этике ИИ, что требует постоянного процесса обучения. Бойнодирис советует привлечь «ваших самых опытных экспертов по этике ИИ, чтобы они рассказали высшему руководству о различиях между подходами к предотвращению потерь и созданию ценности в этике ИИ. Помогите руководителям представить потенциал использования технологий, платформ и инфраструктуры этики ИИ для более широкого использования».