Искусственный интеллект (ИИ) — экзистенциальная угроза человечеству, заявили в Оксфордском исследовательском университете
Машины для уничтожения людей в будущем, как показано в фильмах «Терминатор»
Вымысел - это плодородная фантазия, но кажется, что вымысел когда-нибудь может стать правдой. В серии фильмов «Терминатор» с Арнольдом Шварценеггером в главной роли было показано, что машины или искусственный интеллект (ИИ) уничтожат человеческую расу в каком-то непредвиденном будущем. Что ж, оксфордские исследователи считают, что это действительно может произойти.
Команда исследователей из Оксфордского университета составила список причин, которые, по их словам, представляют собой экзистенциальную угрозу для всей «человеческой расы» и считают, что ИИ обладает максимальным потенциалом для уничтожения человеческой расы.
В недавнем докладе, опубликованном исследователями Оксфордского университета, указывалось на 12 основных рисков, которые угрожают положить конец человеческой цивилизации.
Эти причины можно разделить на следующие 4 категории:
- а) Текущие риски, которые включают в себя экстремальные и неопределенные климатические условия, ядерную войну, катастрофическую экологическую ситуацию, а также глобальную пандемию и коллапс системы из-за катастрофических заболеваний;
- б) Внешние риски (экзогенные), такие как супервулканы и удары астероидов;
- в) Новые риски (техногенные) включают синтетическую биологию, нанотехнологии, искусственный интеллект и другие, которые еще не объявлены, т.е. неопределенные риски;
- г) Риск глобальной политики, который будет означать в целом плохое глобальное управление.
Авторы Деннис Пэмлин и доктор Стюарт Армстронг ясно упомянули об этих рисках, а также предложили 10 возможных решений для уменьшения влияния этих рисков.
В то время как все 12 рисков представляют собой бесконечные угрозы для человеческой расы, категория возникающих рисков является опасной. «Искусственный интеллект» (ИИ), похоже, обладает огромным потенциалом для целенаправленной работы по вымиранию человеческой расы. Несмотря на то, что синтетическая биология и нанотехнологии, наряду с искусственным интеллектом, могут стать ответом на многие существующие проблемы, однако при неправильном использовании они, вероятно, могут стать худшим инструментом против человечества.
Термин «искусственный интеллект» (ИИ) был придуман Джоном Маккарти в 1955 году, что означает создание «сверхинтеллектуального программного обеспечения» или машины, то есть комбинации науки и инженерии таким образом, что машина будет действовать и думать как человек или даже за его пределами.
Илон Маск, который является генеральным директором Tesla Motors и SpaceX, а также соучредителем PayPal, неоднократно предупреждал об угрозах искусственного интеллекта. Маск называет ИИ «самой большой экзистенциальной угрозой человечеству». В своем недавнем выступлении, обращенном к студентам из Массачусетского технологического института (MIT), Маск сравнил ИИ с «демонами». Он твердо верит, что если эти «сверхумные компьютеры» начнут работать над собой, то они могут превратиться в неконтролируемых демонов.
В своем недавнем выступлении перед студентами Массачусетского технологического института он отметил, что:
«Я думаю, что мы должны быть очень осторожны с искусственным интеллектом. Если бы мне нужно было догадаться, в чем заключается наша самая большая экзистенциальная угроза, то, вероятно, это она. Поэтому нам нужно быть очень осторожными. Я все больше склоняюсь к мысли, что должен быть какой-то регулирующий надзор, возможно, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то очень глупое. ”
Маск вместе с Марком Цукербергом из Facebook и голливудским актером Эштоном Катчером инвестировали в Vicarious, фирму, целью которой является создание умного интеллектуального компьютера, который будет думать как человек! Маск говорит, что инвестировал в эту компанию только для того, чтобы гарантировать, что конечным продуктом будет «хороший сверхумный компьютер», а не какой-то «катастрофический монстр».
Таким образом, помимо Маска и исследователей из Оксфордского университета, Стивен Хокинг (который уже создал «синтезатор речи» с использованием искусственного интеллекта в качестве основы и является известным физиком) считает, что у ИИ есть потенциал для эволюции в жизненно важные агенты, угрожающие человеческой расе.
На данный момент Эрик Хорвиц, специалист по информатике, вместе с Рассом Альтманом, профессором биоинженерии и компьютерных наук в Стэнфорде, вместе выступили с идеей создания комитета под названием «AI100», и основная цель этого комитета также заключается в том, чтобы внимательно следить за различными разработками ИИ, а также за его общим результатом для человеческой расы.
Человеческий интеллект, безусловно, может создать «сверхразумные машины», но можем ли мы контролировать «мышление» этих ИИ? Время даст нам об этом знать, если мы существуем, или прекратим!