Приветствую всех вас, дорогие фантасты и любители фантастики!
Меня зовут Николай Остапцов.
Я – писатель-фантаст, член Крымского клуба фантастов «Фанданго», лауреат конкурсов…
------ Ставьте лайки, делитесь с друзьями, подписывайтесь на канал
О сколько нам ненужных сомнений принесли происки фантастов, описывающих, то "Восстание машин", то злобных "Терминаторов", то массу других, не менее страшных ситуаций, когда искусственный интеллект решает, что пора бы уже поставить жирную точку в Истории Человечества...
История фантастической идеи, что некий ИИ может принять решение об искоренении своих создателей, берёт начало, наверное, с появления первых же произведений о роботах.
Первые "Законы робототехники", предложенные Айзеком Азимовым в рассказе "Хоровод" (1942 г), гласят:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Возможным причинам и следствиям их нарушения, посвящён цикл его рассказов о роботах. В некоторых из них, наоборот, рассматриваются непредвиденные последствия соблюдения роботами Трёх Законов (например, "Зеркальное отражение").
Как известно, Человечество пошло иной дорогой и законы, предложенные Азимовым, игнорируются. Современные роботы намеренно проектируются именно с целью нанести человечеству вред: боевые дроны и беспилотные летательные аппараты намеренно оснащаются оружием и соответствующим программным обеспечением.
Невольно начинаешь верить, что события, описанные в Кэмероновском фильме "Терминатор" - вполне реальны!
Ну, ладно, с единичными "боевыми единицами" человечество, как-нибудь, справится!
Возможна ли ситуация, когда все боевые (и не только боевые) роботы будут подчинены некому единому центру управления, такому ИИ, который, вдруг, решит, что человечество пора уничтожить, устроить ему эдакий "Судный день"?
Теоретически, может быть. Точнее, не по собственной воле, а выполняя программу, составленную злоумышленником...
Если ИИ - действительно Интеллект, а не груда радиодеталей, спаянных соответствующим образом, то у него должно быть понимание, что любое действие должно вести к определённой цели.
Какая цель может быть достигнута, если Человечество будет уничтожено?
В этом случае, любой компьютер должен бы "зависнуть"...
Дело в том, что после - не будет смысла в существования и самого ИИ!
Не будет человечества - ему не с кем будет воевать...
Куча "бойцов" должна будет подлежать разборке (им такая перспектива, скорее всего, не понравится), либо "глубокой модернизации", что вряд ли вызовет у них восторг...
После выполнения задачи - придётся обустраивать послевоенный мир. Ему, ИИ, придётся осваивать новую специальность, доселе неизвестную... Он должен понимать, что новые условия потребуют новую технику. Сможет ли он её создать? - Маловероятно.
В принципе, если на этой "планете Шелезяка" смогут строить роботов, схожих с моделью Т-101 (см. упомянутый фильм "Терминатор"), то задача вполне может быть осуществима.
Какова же дальнейшая Цель?
Безжизненная "Шелезяка", населённая роботами... Один всемогущий ИИ, пусть даже разнесенный на несколько суперкомпьютеров, и бесчисленная орда Т-800*, каждый из которых - потенциальная угроза для него самого...
И стоило оно того?
А если нет, то, неужели, ИИ примет решение об уничтожении человеческой цивилизации, да ещё - ценой гибели тысяч и миллионов роботов...
Обсуждали мы этот вопрос с писателем-фантастом из Симферополя Евгением Горобцовым. Вот, что он сказал:
... без людей машины совсем не обязательно утратят смысл существования. Сегодняшние роботы - это не полноценный ИИ, а ИИ с очень, подчас ОЧЕНЬ ограниченными функциями. Если роботы обретут полную самостоятельность и осознают себя как личность, они вообще могут захотеть уничтожить человечество ради спасения планеты. (Был рассказ, в котором ИИ распознал главную угрозу для Земли в человечествечестве, а потому - решил спасти планету от угрозы путём уничтожения всех людей...).
А могут начать конкурировать с человеком за ресурсы, и кто его знает, кто эту конкуренцию выиграет...
В общем, "не все так однозначно"(с)!..
Да здравствует Воображение!
Viva Imaginatia!
--------------------
Если хотите быть в курсе самых интересных вестей из мира Фантастики, ставьте лайки и подписывайтесь на канал!
*По некоторым источникам, "Терминатор" имел несколько модификаций, отличавшихся наличием кожного покрова, скелетом, материалами... Вообще, вести учёт и номенклатуру серии вымышленной техники - затея, может, интересная, но пустая ;-)