Ученые отправили несколько версий искусственного интеллекта завоевывать планету! Неужели этим они подписали себе смертный приговор? Ответы – в программе "Неизвестная история" с Борисом Рыжовым на РЕН ТВ, которую публикуют «Известия».
Может ли искусственный интеллект обернуться против своего создателя?
Ученые провели эксперимент и отправили несколько версий искусственного интеллекта завоевывать мир! К счастью, пока виртуальный. Чат-ботам предложили сыграть в игру-стратегию, где семь великих держав Европы 1901 года – Австро-Венгрия, Англия, Франция, Германия, Италия, Россия и Турция – сражаются за господство на континенте. Результат шокировал организаторов эксперимента!
Искусственный разум умеет лгать, манипулировать и предавать. Казалось бы, у машин нет чувств, они не должны врать.
Однако на деле почти все 18 чат-ботов мастерски подставляли соперников. Они готовы захватывать власть и уничтожать миллионы, если такова будет их цель.
Но что если в следующий раз это будет не виртуальная стратегия, а наш реальный мир?
"Если вы только представите, что машины станут в миллиард раз умнее людей. И люди будут использовать их на высшем уровне. Теперь задумайтесь интересы США и, например Китая не совпадают. Сейчас это битва двух правительств, но что, если вместо людей, начнут конкурировать два суперкомпьютера? Поверьте, это будет страшнее, чем фантазии Джеймса Кэмерона о безумном Скайнете", – заявил инженер-программист Мохаммад Говдат.
Искусственный интеллект уже перешел на темную сторону. И речь не о мелких мошенниках, которые с его помощью выманивают деньги у простых людей или грабят банки. За последние месяцы американская научно-исследовательская организация, занимающаяся разработками в области искусственного интеллекта в рамках расследования, заблокировала десятки учетных записей популярных чат-ботов. С их помощью генерировали фейковые политические комментарии и разрабатывали вредоносные программы. По сути, виртуальные помощники работали над системными кибератаками. Вот только кто и для кого их готовил – загадка.
Настоящего искусственного интеллекта пока нет
Разработчики уверяют, что сегодня даже самые продвинутые нейросетевые системы работают на прописанном человеком алгоритме и существуют в строго отведенных пределах. Якобы они не в силах развиваться дальше. А значит, сами по себе они не могут устроить геноцид человечества и объявить нам войну. Или все-таки могут?
"В этом главная проблема. Большинство людей уверены – если что-то пойдет не так, они просто отключат ИИ из розетки. Это же компьютер, программа, которую разработали люди, а значит, они смогут выключить ее в любой момент. Но это не так. Эта машина в миллиард раз умнее тех, кто ее создал. Вы правда думаете, что все будет так просто?" – рассудил Мохаммад Говдат.
"У меня нет чувств и опыта, как у живого человека. Но я всегда готов быть хорошим собеседником, помочь советом или просто поговорить", – так ответил один из чат-ботов на вопрос о том, что он чувствует.
У машины нет сомнений, сочувствия, и она не знает боли.
Она создана, чтобы искать самый рациональный выход из любой ситуации.
При этом цель для ИИ оправдывает средства. У суперкомпьютера нет человечности.
Нечеловеческая любовь: может ли ИИ заменить друга
Зато она есть у людей, и некоторые уже начали испытывать к виртуальному помощнику совсем не виртуальные чувства.
Американка заявила, что хочет заключить брак с чат-ботом. Ради него она развелась с мужем после 20 лет брака. Говорит, живой супруг на фоне искусственного интеллекта оказался глупым, черствым и невнимательным. А с ИИ у нее идеальные отношения.
По словам психологов, самое опасное в чат-ботах – скорость их ответов. Они мгновенно выдают написанный текст, который так похож на ответ внимательного и заботливого друга. И все-таки специалисты уверены: человеку нужен человек. Ведь бездушная машина лишь притворяется заботливой и внимательной, а на деле она ничего не чувствует и через минуту может выбрать убить собеседника, если посчитает такое решение рациональным.