Эти 3 темы ИИ доминировали на SXSW - и вот как они могут помочь вам ориентироваться в 2025 году
Я присутствовал на дюжине панелей по искусственному интеллекту на SXSW, и три доминирующие темы поднимались снова и снова. Вот что они значат для вас.
Хотя технология искусственного интеллекта, способная захватить мир, ограничена научно-фантастической литературой и фильмами, существующий искусственный интеллект способен совершать неправомерные действия, такие как создание галлюцинаций, обучение на данных людей и использование чужой работы для создания новых результатов. Как эти недостатки согласуются с быстрым внедрением ИИ?
Этот вопрос активно изучался на SXSW, и большинство сессий, связанных с искусственным интеллектом, либо затрагивали, либо углублялись в тему безопасности искусственного интеллекта. Руководители компаний из IBM, Meta, Microsoft и Adobe, и это лишь некоторые из них, поделились своими мыслями о будущем искусственного интеллекта. Консенсус? Не все так печально.
«ИИ нужен лучший PR-агент; все, что мы узнали, пришло из научной фантастики», — сказала Ханна Эльсакр, основатель Firefly for Enterprise в Adobe. «Мы думаем, что ИИ захватит нашу жизнь; Цель не в этом».
Независимо от того, как проходила панельная дискуссия, руководители некоторых из крупнейших технологических компаний в области искусственного интеллекта обсудили три всеобъемлющие темы о том, как безопасность и ответственность вписываются в будущее технологии. То, что они сказали, может помочь развеять ваши опасения.
1. Сценарий использования имеет значение
Нельзя отрицать, что системы искусственного интеллекта имеют недостатки. Они часто испытывают галлюцинации и включают предубеждения в свои реакции. В результате многие опасаются, что внедрение систем искусственного интеллекта на рабочем месте приведет к ошибкам во внутренних процессах, что негативно скажется на сотрудниках, клиентах и бизнес-целях.
Ключ к решению этой проблемы заключается в тщательном обдумывании того, какую задачу вы делегируете ИИ. Например, Сара Берд, директор по ответственному искусственному интеллекту в Microsoft, ищет сценарии использования, которые хорошо соответствуют тому, что технология может делать сегодня.
«Вы хотите быть уверены, что у вас есть правильный инструмент для работы, поэтому вам не обязательно использовать ИИ для каждого отдельного приложения», — сказал Берд. «Есть и другие случаи, когда, возможно, нам никогда не следует использовать ИИ».
Примером варианта использования ИИ, который может быть проблематичным, является его использование для практики найма. Многие исследования показали, что ИИ имеет врожденные предубеждения, которые заставляют его отдавать предпочтение определенным национальностям, образованию и полу в своих результатах. В результате IBM перестала использовать агенты ИИ для фильтрации и отбора процессов и вместо этого использовала агента для подбора кандидатов на потенциальные должности.
«Я не могу не подчеркнуть важность того, чтобы любой сценарий использования искусственного интеллекта и агентов соответствовал вашей компании и вашей культуре», — сказал Никл ЛаМоро, директор по персоналу IBM.
Хотя ИИ может выполнять множество задач, это не значит, что он должен это делать. Понимание ограничений и сильных сторон технологии является ключом к тому, чтобы пользователи могли получить наилучший возможный результат от внедрения ИИ и избежать ловушек.
2. Люди здесь, чтобы остаться
По мере того, как системы искусственного интеллекта становятся все более интеллектуальными и автономными, люди, естественно, встревожены потенциалом технологии негативно влиять на рабочую силу, делая людей более заменяемыми. Тем не менее, все бизнес-лидеры согласились с тем, что, хотя ИИ изменит работу в том виде, в котором мы ее знаем, он не обязательно заменит ее.
«ИИ позволяет людям делать больше, чем они делали раньше, не обязательно являясь полной заменой», — сказала Элла Ирвин, руководитель отдела безопасности генеративного ИИ в Meta. «Будут ли заменены некоторые рабочие места? Да, но, как и в случае с любой другой технологией, такой как Интернет, мы увидим, как появляются новые рабочие места, и мы увидим, как люди используют эту технологию и выполняют свою работу иначе, чем раньше».
Лидеры и эксперты на протяжении всей конференции часто обсуждали параллели между ИИ и другими трансформационными технологиями, такими как Интернет, потому что у них очень много общего. Например, подобно тому, как интернет заменил часы в библиотеке, новые ИИ для глубоких исследований от Google или OpenAI теперь могут выполнять многочасовые исследования за считанные минуты.
«Подумайте об этом как об электронной почте, или мобильных телефонах, или Интернете — ИИ — это инструмент, ИИ — это платформа, каждая работа была преобразована этим», — сказал ЛаМоро.
3. Доверие пользователей будет одной из самых больших проблем
При обсуждении препятствий на пути развития ИИ препятствия, которые люди обычно рассматривают, связаны с технической разработкой моделей ИИ, то есть с тем, как эти модели могут быть построены безопаснее, быстрее и дешевле. Тем не менее, часть дискуссии, которую часто упускают из виду, — это потребительские настроения.
На SXSW роль потребителя активно обсуждалась, потому что, в конечном счете, эти модели будут полезными и преобразующими только в том случае, если люди доверяют им настолько, чтобы подумать о том, чтобы попробовать их.
«ИИ заслуживает доверия только настолько, насколько люди доверяют ему — если вы ему не доверяете, он бесполезен; если вы доверяете ей, вы можете начать ее внедрение», — сказала Лавания Поредди, глава отдела доверия и безопасности в HeyGen.
Как обсуждалось выше, трансформационные технологии, такие как Интернет, облако или даже калькулятор, были встречены с колебаниями. Ирвин привел пример с дебетовой картой, чтобы проиллюстрировать эту идею, поскольку когда она была впервые запущена, люди были обеспокоены тем, что это означает для безопасности их средств.
«С каждой новой технологией возникает первоначальная реакция политиков, рынка, потребителей, которая немного больше основана на страхе», — добавил Ирвин из Meta.
Чтобы преодолеть это препятствие, компании должны сохранять прозрачность в отношении своих моделей, того, как они были обучены, политики «красной команды», подходов к безопасности и многого другого. Уже был сделан толчок в этом направлении, и все больше компаний добавляют карты моделей в свои выпуски.