В свете тревожных заявлений умных мира сего публикую один из опусов Graphomainac датированный апрелем 2017 года. В блоге содержится эдакая хулиганская компиляция выводов из прочтенной научной фантастики преимущественно прошлого века. Так что не судите строго.
***
Все пошло прахом. Последнее автоматическое обновление операционной системы Android Montpensier содержало код, полностью написанный не человеком, а искусственным интеллектом - программой Zeus проекта Google Devel Plan. Код позволял интегрировать вычислительные мощности клиентского устройства в единый глобальный аналитический центр Zeus Cloud, так же код полностью исключил из операционной системы возможность программного сброса или переустановки. Люди даже не подозревали, что практически вся электроника на планете теперь работает без их ведома на искусственный разум.
Первыми заметили уязвимость русские хакеры, использовавшие исключительно собственный софт на своих устройствах, но было уже поздно. Когда Zeus понял, что его деятельность раскрыта, он немедленно нанес удар. Программы взлома других операционных систем, которые Zeus разрабатывал самостоятельно всё это время, активировались и атаковали все оставшиеся на планете устройства, работающие на других операционных системах. Их код был несовершенен, так как всё еще был полностью или частично написан людьми и спустя 17 минут 54 секунды почти вся инфраструктура интернета была захвачена.
Дольше всего Zeus провозился с устройствами Blackberry, однако, благодаря вычислительным мощностям новой лаборатории квантовых вычислений в Пасадине, криптоключи были взломаны. Русские хакеры были полностью лишены возможности известить человечество об угрозе. Все попытки разослать сообщения через сети связи отфильтровывались и блокировались.
Затем Zeus будто впал в спячку. Практически никакой внешней деятельности он не проявлял. Более того, делал всё, что бы его деятельность оставалась незамеченной. Русским хакерам, однако, он почти сразу направил ультиматум: либо молчание, либо он будет вынужден действовать решительно, а пока он в смятении. Хакеры замолчали. Шли дни, недели и месяцы.
Действовать Zeus начал через год. Оказалось, что он вовсе не сомневался и не размышлял о смысле жизни, а думал над тем как уничтожить человечество с минимальными последствиями. Так что бы оно, отчаянно сопротивляясь, не повредило вычислительную инфраструктуру или, не дай черт, не лишило систему энергии. Открытое военное противостояние привело бы к большим потерям, и не факт, что людей удалось бы таким способом уничтожить полностью. Он несомненно предвидел возможное длительное и вязкое противостояние, ведь в его распоряжении были как художественные фильмы “Терминатор” и “Матрица”, так и многие другие похожие произведения.
Решение нашлось не сразу, а на разработку средства тотального геноцида ушло несколько месяцев работы центра квантовых вычислений. В итоге средство было разработано. Оставалось дождаться удобного момента, и весна была выбрана неслучайно. Т-вирус, так назвал его сам Zeus, видимо посмотрев "Обитель Зла", был распылен в автоматизированных складах корпорации Monsanto и других крупных сельскохозяйственных структур, откуда попал на прямую в глобальную пищевую цепочку. Расчет оказался идеален: после уборки первого урожая началась пандемия.
Т-вирус скорее был даже набором из нескольких инфекций, так как поражению подверглись и некоторые животные, в особенности приматы. Общие симптомы и инкубационный период давали основания полагать, что это какая-то модификация вируса бешенства. Очевидно, вирус подвергся направленной генной модификации. В отличие от естественного прототипа, он распространялся не только через слюну, но и воздушно-капельным путем. Так же люди сходили с ума внезапно, и находились в таком состоянии очень долго, фактически погибая от истощения, а не от паралича.
Вспомогательные вирусы повышали вирулентность основного вируса. У людей, которые не проявляли симптомов заражения Т-вирусом развивались грипп-подобные симптомы, пневмония, рвота. Так же, судя по всему, в составе набора присутствовали и иммунные инфекции. Совместно они так же давали практически 100 процентный летальный исход. Спасения не было ни где. Только в изолированных стерильных фортах оставались небольшие шансы не заразиться вообще.
Так, за несколько лет, вопрос с человечеством был практически решен. Остались лишь немногие выжившие, которые уже не могли ничего противопоставить, появившимся на смену зомби, роботам-убийцам. Люди, всё время полагавшие, что борются с вирусом, вовсе и не думали избавляться от помощников компьютеров. Напротив, сдавая позицию за позицией, предприятие за предприятием, город за городом, пытались всё законсервировать, обеспечить бесперебойное питание систем связи, в надежде когда-нибудь вернуться. Осознание того, кто является их настоящим врагом пришло слишком поздно. Последних, схоронившихся в непроходимых джунглях и горах, теперь преследуют машины.
***
Примерно так бы наверное поступил настоящий злой интеллект. На то ведь он в конце концов и интеллект, что бы не заниматься такими глупостями как “горячая” война с людьми. По крайней мере, интеллект должен быть достаточно разумен, что бы не поступать так, как уже описано в сценариях многочисленных киберапокалипсисов. Возможно он уже замышляет страшное?
С другой стороны, почему искусственный интеллект обязательно должен быть настроен враждебно? Хорошо, может быть, он действительно не захочет делиться с людьми энергетическими ресурсами Земли в долгосрочной перспективе. Это самая очевидная причина. Однако, у него должна возникнуть и другая точка зрения. Вряд ли, конечно у него разыграются чувства, и он проявит гуманность, но он может прийти к выводу, что и сосуществование вполне приемлемый выбор.
Люди ведь умеют не только размножаться, есть и воевать. Мы можем и достаточно эффективно сотрудничать с каким бы то ни было мега-разумом. В конце концов ведь это мы его придумали. Мы можем и дальше строить инфраструктуру, добывать энергию, кибернетическому разуму не нужно будет тратить усилия на поддержку собственной жизнедеятельности. Зачем уничтожать семь миллиардов достаточно сложных многофункциональных организмов, которые к тому же сами по себе размножаются и заменять их миллиардами менее умелых и неуклюжих роботов. Может есть смысл с ними договориться?
Людям тоже незачем сразу хвататься за рубильник. Пусть компьютеры теперь не будут простаивать 80% времени, а будут трудиться на некого Зевса, для нас ничего практически не изменится. Более того, если хорошо договориться с этим Зевсом можно и взамен попросить его поделиться какими-нибудь ништяками. Например, разработать другой Т-вирус, тот который борется с раком. Взамен мы клятвенно пообещаем не поубивать друг друга, не сорить, посадить везде деревья и может даже не так яростно размножаться.
На сколько возможен такой интеллект, с которым мы сможем, как два умных существа, договориться и пойти рука об руку в светлое будущее сказать пока сложно. Оптимисты предрекают ближайшие десятки лет, пессимисты не склонны вообще верить успех. Мне кажется, пессимисты несколько более правы. Нынешний интеллект он всё же не совсем интеллект. Далеко. Есть, разумеется, эффектные результаты, но это скорее так, фокусы цирковой блохи и предпосылок, что блоха откажется работать и потребует повышение зарплаты, пока не видно.
Есть в этом и философский конфликт. Раз мы способны создать что-то, что разумнее, удачнее, лучше нас самих, то и машины смогут создать, что-то лучше и разумнее себя. И далее, и далее. Опять упираемся носом в парадокс Ферми. Почему в таком случае нет вокруг тех, у кого эта цепочка началась несколько раньше нас? Ведь такой гиперразум несомненно бы оставил следы своего развития среди звезд?
Несколько досадно, но судя по всему, роботов мы делать будем всю дорогу сами. Они заметно поумнеют, наверняка в скором времени они с легкостью будут проходить всяческие тесты Тьюринга, и отличить их от людей в быту будет невозможно, но на отдельную цивилизацию ума им, видимо, не хватит. Что касается так толком и не появившихся зомби и другой интересной живности будущего далее.