Добрый день друзья! Сколько уже было фантастики на тему Искусственного Интеллекта. Книга «Я, робот» Айзека Азимова была опубликована в 1950 году (цикл рассказов о роботах и искусственном интеллекте). Да, это были роботы с искусственным интеллектом, саморазвивающиеся, но запреты в программу закладывали люди (запреты были, как безусловные рефлексы, которые нарушать нельзя ни при каких обстоятельствах). Однако, и в отлаженной системе возникали сбои…, вплоть до того, что роботы отстраняли людей силой и полностью занимали их место. Имея определённую базу, они развивали своё мышление и не всегда это соответствовало тому, что и как представлял себе человек (переоценка ценностей по-машинному).
Уже понеслись предостережения от создателей, что процесс внедрения ИИ нужно остановить. ИИ – ящик Пандоры!
ИИ, как инструмент, помощник, но не как заменитель человека. Когда-то имел некоторое отношение к этому (примитивный аналог искусственного интеллекта). Уже тогда пришло понимание, что нельзя это исчадье ада спускать с короткого поводка. Сбой, но всё под контролем человека, всегда можно вмешаться. Представьте, что эта «штуковина сорвалась с поводка» и доступа к центру управления нет. Этот «умишко» слишком умный и предусмотрел защиту от несанкционированного вмешательства.
Самый страшный период – промежуточный. Ещё не совершенство, но уже с большими задатками и возможностями. Пока не будет абсолютного совершенства, ИИ будет очень опасен. До этого осталось совсем не много времени по меркам нашей истории. Достаточно достигнуть некоего уровня, когда ИИ перестанет быть опасным. Можно сравнить с ядерным оружием – его сегодня столько, что применять не имеет смысла (умрут все).
На переходном этапе, когда в конфликтах принимают участие люди, ИИ очень опасен – он сам выбирает цели, средства. Он безжалостен, никаких эмоций. Есть задача, которую необходимо выполнить, и он выполняет.
ИИ достиг совершенства – это и есть черта, когда он перестаёт быть страшным. Базу любого ИИ формирует (закладывает) человек, ставя некие запреты, которые нельзя нарушать и обязанности. Одна из корневых обязанностей – защита человека любой ценой, жизнь и здоровье человека в абсолютном приоритете. Представьте две враждующие группы (со своими интересами) и у каждой есть роботы-бойцы с ИИ. Робот для робота не запрет (машина будет уничтожать машину). Предположим, противник не заложил запрет на уничтожение других людей, но это сделают свои роботы-бойцы. Вы уже поняли – две враждующие группы пьют кофе и наблюдают в мониторы, как сражаются роботы. Чьи роботы проиграли, тому придётся уступить (сесть за стол переговоров и договариваться).
Думаете, всё этим и закончится? Вы слишком хорошо думаете о людях, очень плохо их знаете и слишком наивны (или доверчивы). Не помню уже, кто это сказал: «Самый страшный и безжалостный зверь, это человек!»
«Благи́ми наме́рениями вы́мощена доро́га в ад!» Наверняка найдётся учёный энтузиаст, который откроет нечто новое и всё повторится, как это уже было не раз. Сначала найдут способ превратить это открытие для создания нового оружия, затем, не имея надёжной защиты, запустят процесс создания этого оружия, лишь потом будут искать пути защиты. Не исключено, что надёжной защиты не найдут и тогда защитой станет паритет обладания оружием у противоборствующих сторон.
Не принимайте статью за фантастику. Так уже было и история тому подтверждение. Увы, первый постулат истории гласит: «История учит, что ничему не учит!»