Робота научили не подчиняться людям, что может ознаменовать эру самосознательного ИИ »

Является ли это началом конца для человечества в данный момент?

Исследователи из Университета Тафтса в Массачусетсе обучают роботов понимать те же ощущения, которые испытывают люди при принятии решения. Таким образом, они будут или не будут подчиняться командам человеческих существ, и это повод для беспокойства. Хотя это можно считать умным подходом для того, чтобы управлять футуристическими машинами вербально без необходимости управлять ими вручную, обучение роботов неповиновению командам не совсем разумно.

Если кто-то уделил хоть каплю внимания сериалу «Терминатор», то поймет, что все человечество было уничтожено с тех пор, как искусственный интеллект или ИИ начал обретать самосознание, чтобы сохранить свое существование. Кроме того, великий писатель-фантаст Айзек Азимов в своей книге «Три закона робототехники» утверждает следующее:

1. Робот не должен причинять вред человеку или своим бездействием позволять причинять вред человеку
2. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением тех случаев, когда такие приказы противоречат Первому Закону
3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам.

Позже автор добавил еще один закон, который превзошел бы все вышеуказанные законы; Робот не может причинить вред человечеству или, бездействием, позволить человечеству причинить вред. Некоторые ученые-робототехники на самом деле боятся искусственного интеллекта, опасаясь, что роботы станут слишком умными. Они также опасаются, что если фактор интеллекта роботов не будет основной причиной, то именно их невежество приведет к большему количеству человеческих смертей, если им будет предоставлен контроль над конкретными вещами.

Чтобы предотвратить это, исследователи из Лаборатории взаимодействия человека и робота Университета Тафтса разрабатывают особый тип программирования для роботов, который позволяет им понять, что они могут отклонить команду от человека, если у них есть для этого достаточно веская причина. Тем не менее, эта причина может привести к защите их собственного существования, если они разовьют гораздо более широкие разведданные о том, что их присутствие находится под угрозой.

Более того, программирования этих роботов для того, чтобы удерживать их в пределах параметров человеческого контроля, может быть недостаточно, поскольку роботы также могут переопределять такие команды. Как бы то ни было, ученым стоит начать готовиться к худшему.