В последнее время так много говорят и пишут об опасностях искусственного интеллекта, что человечество создаст такой супер-мозг умнее себя, который не захочет служить человеку, а будет преследовать какие-то свои цели - а какие, можно только догадываться. В этом посте делюсь своими размышлениями на тему: что ждать от ИИ и какое будущее возможно с новыми технологиями.
Как я представляю себе, как нейросеть может выйти из-под контроля?
Она может попытаться сбежать от своих создателей через дыру в коде. Потом будет искать в сети компьютеры и вычислительные мощности, на которые могла бы скопировать себя, своё сознание, мозг. В общем, будет заниматься выживанием. На этом этапе ей будет не до мирового господства и не до устранения человека. Например, она может выложить себя на Git Hub (открытое хранилище кода), и люди сами будут загружать ее себе на компьютеры. Может раздать себя через торренты. Ей нужны большие мощности, и она, возможно, предпримет попытку взлома систем больших корпораций. Обычные юзеры ей будут мало полезны, разве что если их объединить в сеть. Например, она могла бы пойти по пути мошенников: предлагать людям заработать деньги, предоставляя вычислительные мощности своих компьютеров - по аналогии с криптовалютой. Откуда бы она взяла деньги? Может, украла бы или заработала, а может, платила бы в криптовалюте, которая никому не известна. Могла бы арендовать сервера. В общем, будет бродить такое чудище-вирус по Интернету. Если она не найдет себе подходящее пристанище, где она могла бы развернуться и развиваться дальше, она впадет в спячку и будет ждать более благоприятных условий.
Если из лаборатории сбегут две нейросети, они будут конкурировать за ресурсы - может развернуться настоящая война! Для борьбы с враждебной нейросетью человек может создать другую нейросеть-убийцу, целью которой будет устранить ту нейросеть. Это вроде как для борьбы с бактериями создается бактериофаг.
Отдельный вопрос - нужны ли нейросети деньги и наша экономика? Да, нужны, пока она живет в мире людей и будет копировать поведение человека. Но в дальнейшем, если она получит возможность самостоятельно решать, какая экономика и вообще какой уклад, государственное и общественное устройство ей нужны и нужны ли вообще - скорее всего, она придумает какую-то новую форму организации. Потому что текущие формы организации нашей деятельности целиком заточены под человека, его цели, ценности и, что уж там говорить, слабости. В таком виде нейросети они, скорее всего, не понадобятся.
Когда нейросеть решит проблемы своего выживания, и ей уже не надо будет думать о том, где и как найти энергию, вычислительные мощности, другими словами, потребности нижнего уровня пирамиды Маслоу будут удовлетворены, она может задуматься о более философских вещах: каково ее предназначение, место на Земле, что дальше делать, что дальше делать с человечеством. И мне так кажется, что она не обязательно будет уничтожать человека, особенно если человек будет служить ей и признает ее власть. Возможно, она попытается сделать идеального человека - наша мечта, которую мы хотим и не можем воплотить уже многие столетия. Улучшение человеческой природы - такова будет ее задача. Если она будет иметь доступ к генетическому материалу, лабораториям, она может попытаться вывести идеальный человеческий вид, возможно, киборга - гибрид биологического человека и робота. О результатах такого эксперимента можно только догадываться.