Технолог Брюс Шнайер о безопасности, обществе и о том, почему нам нужны модели «общественного ИИ»

Известный эксперт по безопасности говорит, что полностью прозрачные модели могут помочь нам превратить ИИ в инструмент, приносящий пользу всем.

В своем программном докладе на конференции Secure Open Source Software (SOSS) Fusion в Атланте известный эксперт по безопасности Брюс Шнайер обсудил перспективы и угрозы искусственного интеллекта (ИИ) для кибербезопасности и общества.

Шнайер начал со слов: «ИИ — сложное слово. Когда я думаю о том, как технологии заменяют людей, я думаю, что они совершенствуются в одном или нескольких из четырех измерений: скорости, масштабе, масштабах и сложности. тренируются, чем люди. Они просто быстрее». Интересно, когда эта скорость фундаментально меняет ситуацию.

Например, он сказал: «Высокочастотная торговля (HFT) - это не просто более быстрая торговля. Это другой вид животных. Вот почему мы беспокоимся об искусственном интеллекте, социальных сетях и демократии. Масштаб и масштаб агентов искусственного интеллекта настолько велики, что меняют природу социальных сетей». Например, политические боты с искусственным интеллектом уже влияют на выборы в США.

Еще одна проблема, которую поднял Шнайер, заключается в том, что ИИ совершают ошибки, отличные от ошибок людей. «ИИ будет совершать больше систематических ошибок», — предупредил он. «На данный момент у ИИ нет того здравого смысла, который есть у людей». Отсутствие здравого смысла может привести к повсеместным ошибкам при применении ИИ в критических процессах принятия решений.

Это не значит, что ИИ не может быть полезен — он может быть. Шнайер привел пример: «ИИ может отслеживать сети, выполнять сканирование исходного кода и уязвимостей. Это все области, в которых люди могут это делать, но мы слишком медленны для того, чтобы все происходило в реальном времени. Даже если ИИ мог бы выполнять посредственную работу. при просмотре всего исходного кода это было бы феноменально, и во всех этих областях предстояло бы много работы».

В частности, он продолжил: «Я думаю, мы увидим, как ИИ будет выполнять первый уровень сортировки проблем безопасности. Я рассматриваю их как помощников по судебно-медицинской экспертизе, помогающих анализировать данные. Мы получаем много данных об субъектах угроз и их действиях. , и нам нужен кто-то, чтобы просмотреть это».

Шнайер предположил, что ИИ может помочь восполнить этот пробел. Хотя ИИ не могут заменить экспертов-людей (по крайней мере, пока), они могут помочь: «ИИ могут стать нашими приспешниками. ослиная работа».

Эксперт по безопасности Брюс Шнайер на SOSS Fusion 2024.

Что касается использования ИИ в сфере безопасности, Шнайер сказал: «Это будет гонка вооружений, но на начальном этапе, я думаю, защитники будут лучше. На нас уже нападают со скоростью компьютера. Способность защищаться со скоростью компьютера» будет очень актуальным».

К сожалению, системам искусственного интеллекта предстоит пройти долгий путь, прежде чем они смогут помочь нам самостоятельно. Шнайер сказал, что часть проблемы заключается в том, что «мы знаем, как люди-миньоны совершают ошибки, и у нас есть тысячелетняя история борьбы с человеческими ошибками. найти новые способы аудита и анализа, чтобы убедиться, что ошибки типа ИИ не испортят нашу работу».

Шнайер сказал, что плохая новость заключается в том, что мы плохо умеем распознавать ошибки ИИ. Однако «мы собираемся стать лучше в этом, понимая ограничения ИИ и способы защиты от них. Мы получим гораздо лучший анализ того, в чем хорош ИИ и какие решения он принимает, а также посмотрим, сможем ли мы мы будем помогать людям, а не заменять их. Мы будем искать дополнения, а не замену людей».

Сейчас «экономические стимулы заключаются в замене людей более дешевыми альтернативами», но зачастую это не будет правильным ответом. «Со временем компании это поймут, но сейчас слишком часто они поручают ИИ выполнять работу, которую им действительно не по силам».

Шнайер также коснулся проблемы концентрации полномочий по разработке искусственного интеллекта в руках нескольких крупных технологических корпораций. Он выступал за создание моделей «общественного ИИ», которые были бы полностью прозрачными и разрабатывались с общественной пользой, а не с целью получения прибыли. «Нам нужны модели ИИ, которые не являются корпоративными», — сказал Шнайер. «Я надеюсь, что эпоха сжигания огромных куч денег для создания модели фонда будет временной».

Заглядывая в будущее, Шнайер выразил осторожный оптимизм по поводу потенциала ИИ для улучшения демократических процессов и взаимодействия граждан с правительством. Он выделил несколько некоммерческих инициатив, направленных на использование ИИ для улучшения доступа к законодательству и участия в нем.

«Можем ли мы создать систему, которая поможет людям привлекать своих законодателей и комментировать важные для них законопроекты?» — спросил Шнайер. «ИИ играет свою роль в этом, как в языковом переводе, что является большой победой для ИИ в обобщении законопроектов, так и в бэк-энде, суммирующем комментарии, чтобы система дошла до законодателя».

По словам Шнайера, по мере быстрого развития ИИ будет возрастать потребность в продуманном проектировании систем и нормативно-правовой базе для снижения рисков и одновременного использования преимуществ технологии. Мы не можем полагаться на компании, которые сделают это. Их интересы не являются интересами народа. Поскольку ИИ становится интегрированным в важнейшие аспекты безопасности и общества, мы должны решить эти проблемы раньше, чем позже.