Хокинг, Маск и Возняк призывают к полному запрету военного ИИ и автономного оружия

Маск, Хокинг и Возняк призывают запретить автономное оружие и военный ИИ, чтобы предотвратить «гонку вооружений военного ИИ»

Более 1000 научных исследователей и технологических экспертов подписали открытое письмо, призывающее правительства стран мира запретить разработку «наступательного автономного оружия», чтобы предотвратить «гонку вооружений военного ИИ».

Письмо, которое будет представлено завтра на Международной совместной конференции по искусственному интеллекту (IJCAI) в Буэнос-Айресе, Аргентина, подписали Илон Маск из Tesla, соучредитель Apple Стив Возняк, исполнительный директор Google DeepMind Демис Хассабис, Ноам Хомский и профессор Стивен Хокинг, а также десятки других исследователей в области искусственного интеллекта и робототехники.

В письме говорится: «Технология искусственного интеллекта достигла точки, когда развертывание [автономного оружия] практически — если не юридически — возможно в течение нескольких лет, а не десятилетий, и ставки высоки: автономное оружие было описано как третья революция в военном деле после пороха и ядерного оружия. ”

Авторы утверждают, что ИИ может быть использован для того, чтобы сделать поле боя более безопасным местом для военнослужащих, но что наступательное оружие, которое действует само по себе, снизит порог вступления в бой и приведет к большим потерям человеческих жизней.

Большая часть письма посвящена транспортным средствам и глупым роботам, которые превращаются в умные автономные оружейные системы. Согласно письму, крылатые ракеты и беспилотные летательные аппараты - это нормально, потому что «все решения о целеуказании принимают люди».

Вот один из главных аргументов из письма:

Ключевой вопрос для человечества сегодня заключается в том, начать ли глобальную гонку вооружений в области ИИ или не допустить ее начала. Если какая-либо крупная военная держава будет продвигаться вперед в разработке оружия с искусственным интеллектом, глобальная гонка вооружений практически неизбежна, и конечная точка этой технологической траектории очевидна: автономное оружие станет автоматами Калашникова завтрашнего дня.

Далее в письме проводится сильная параллель между химической/биологической войной и автономным оружием:

Точно так же, как большинство химиков и биологов не заинтересованы в создании химического или биологического оружия, большинство исследователей ИИ не заинтересованы в создании оружия ИИ — и не хотят, чтобы другие запятнали их область этим действием, что потенциально может вызвать серьезную общественную реакцию против ИИ, которая сократит его будущие социальные выгоды.

Институт будущего жизни представит письмо в IJCAI. Нет никакой ясности в отношении того, кому было адресовано письмо, кроме исследователей и ученых, которые будут присутствовать на конференциях. Возможно, это делается для того, чтобы повысить осведомленность о проблеме, чтобы мы не закрывали глаза на любые исследования в области автономного оружия, проводимые крупными военными державами.

Тоби Уолш, профессор искусственного интеллекта в Университете Нового Южного Уэльса, сказал: «Сегодня нам нужно принять решение, которое определит наше будущее и определит, следуем ли мы по пути добра. Мы поддерживаем призыв ряда различных гуманитарных организаций к запрету ООН на наступательные автономные вооружения, подобно недавнему запрету на ослепляющие лазеры. ”

Илон Маск и Стивен Хокинг ранее предупреждали об опасности продвинутого ИИ. В то время как Хокинг сказал, что ИИ является «нашей самой большой экзистенциальной угрозой» и что развитие полноценного ИИ может «означать конец человеческой расы», Маск сказал, что ИИ «потенциально более опасен, чем ядерное оружие».

Недавно другие, в том числе Возняк, изменили свое мнение об искусственном интеллекте, а соучредитель Apple заявил, что роботы будут полезны для людей, делая их «домашними питомцами, о которых все время заботятся».

Обсуждая будущее вооружений, в том числе так называемых «роботов-убийц», на конференции ООН в Женеве в апреле, Великобритания выступила против запрета на разработку автономного оружия, несмотря на призывы различных групп давления, в том числе Кампании «Остановить роботов-убийц».