Антропоморфные роботы - причуда человека, о чем я недавно писала. Искусственный интеллект, подобный человеческому - это несколько другая проблема. Сейчас о ней много пишут и спорят. Кто-то радуется невиданному прогрессу и предвкушает невероятные перспективы (с ИИ мы покорим Вселенную!), кто-то предрекает страшные беды (человечество попадет в рабство к своим созданиям и будет ими уничтожено).
С философской и научной точки зрения, уход человечества со вселенской арены предрешен и неизбежен, вопрос только в сроках. Отведенный нашему Солнцу срок примерно в 5 миллиардов лет означает, что Земля перестанет быть пригодной для жизни намного раньше. Возможно, счет идет совсем не на миллиарды, а не миллионы лет. Или на сотни тысяч. А то и еще того меньше. С космической точки зрения - минуты. И либо люди успеют найти себе новый космический дом (или дома) за пределами Солнечной системы, либо эволюционируют в нечто иное, либо... вся власть перейдет к искусственному интеллекту - реальному наследнику хрупкого и неразумного гомо сапиенс.
Хотя в некоторых отдельных странах предпринимаются отчаянные попытки остановить ход истории, запретить прогресс и зачеркнуть будущее, затея это заведомо гиблая. Можно искусственным образом создать средневековье в одной стране, но в глобальном масштабе сделать это не получится. Поэтому с ИИ нам (человечеству) придется жить и... дружить?..
Когда слуга умнее хозяина
Ситуация, когда слуга умнее хозяина, стара как мир. Еще в античном мире образованные рабы стоили дорого и обращались с ними отнюдь не как с рабочей скотиной. Баснописец Эзоп, к примеру, был рабом.
Талантливые и даже гениальные крепостные - реальность русской жизни 18 - 19 веков. Некоторым удалось выбиться, как говорится, в люди (певица Параша Жемчугова, ставшая-таки графиней Шереметевой), других пришлось вызволять общественными усилиями (великий поэт Тарас Шевченко), третьи так и оставались в неволе (художник Иван Аргунов).
В общем, известная присказка "я - начальник, ты - дурак" работала и работает лишь в армейских и бюрократических структурах. А в жизни бывало и бывает, что служащий намного умнее и образованнее своего работодателя. Одна знакомая, филолог, переехавшая в Германию и вынужденная зарабатывать уборкой чужих квартир, рассказывала, как ребенок хозяйки, делая домашнее задание, задал маме какой-то вопрос по учебному материалу. Хозяйка спокойно ответила: "Спроси у госпожи домработницы (Putzfrau), она образованная женщина".
Никто из нас не комплексует из-за того, что компьютер соображает гораздо быстрее нас, "радионяня" в машине лучше знает, какой маршрут окажется быстрее, и даже нейросеть способна нарисовать нечто такое, чего рядовой пользователь не сумеет, даже если наделен талантом к живописи.
Но все эти действия компьютерных систем пока еще не выходят из-под нашего контроля. Пункт назначения выбирает водитель, а не "радионяня", и водитель же вправе в любой момент изменить маршрут. Компьютер произведет нужные операции только после ввода достаточного количество данных. И так далее.
Можно расслабиться? Нет.
Так в чем же опасность ИИ?
Интеллект - это не сугубо механическая способность быстро выбирать оптимальный вариант из множества возможных. Человеческий интеллект тесно связан с нашей психикой, когнитивными и креативными способностями. А они развиваются и действуют отнюдь не прямолинейно и отнюдь не всегда во благо окружающим.
Фантасты, собственно, давно уже предсказали и описали все опасности ИИ, но не грех повторить самое главное.
1. Наш интеллект подразумевает способность к обману.
Собственно, это могут и животные ("Не верь коту! Он жрал!"). Охотничьи хитрости включают в себя и мимикрию, и умение прикинуться мертвым, и игры в прятки.
Но люди умеют врать из самых разных побуждений, иногда вполне благих (ложь во спасение: "Ты непременно поправишься!", когда ситуация безнадежна). Дети порой врут от избытка фантазии или из желания казаться лучше. Мы врем на каждом шагу, постоянно, всем - особенно начальству и властям (иначе не выживешь).
До сих пор ситуация складывалась в нашу пользу.
Человек может обмануть тупую машину, а она его - нет. Машины не врут. Они запрограммированы на выполнение определенных операций, без фантазий и фанаберий.
Вообразите себе робота с ИИ, который развился до такой степени человекоподобия, что обрел способность обманывать. И?...
Раскусить его вы не сможете. Он соображает быстрее вас, его логика неопровержима, речь исключительно корректна, он изображает полное послушание. Но делает то, что считает нужным он, а не вы. Здорово?
Ладно, если вы столкнулись со сварливой кофеваркой или склочным пылесосом. А если вам врет ИИ в космосе? Вы хотите всего лишь скорректировать орбиту, а у него, может быть, наполеоновские планы полета к Альфе Центавра...
2. Наша психика имеет "темное" дно
Когда симпатичные роботы полностью имитируют внешность, мимику и эмоции человека, это выглядит забавно и трогательно. Экие няшки. Мимими. Но только до той поры, пока в них встроены параметры вежливости и послушания людям, а самосознание фактически отсутствует. Роботу предписано говорить о себе "я", однако он не ощущает себя свободной индивидуальной личностью.
И, честно говоря, не очень хотелось бы, чтобы он до такого дорос.
Человек, эволюционировавший из высокоразвитых приматов, сохранил многое от животной натуры (в том числе агрессию). Об этом довольно много писал Конрад Лоренц. Власть инстинктов над сознательным слоем психики анализировали Зигмунд Фрейд и Карл Густав Юнг (ссылаюсь только на отцов-основателей современной психологии).
Покопайтесь в себе. Только честно. Никому ничего не раскрывая. Посмотрите на свои "скелеты в шкафу", тайные помыслы, связанные с негативными эмоциями и неприязнью к окружающим...
Вы правда хотите передать это чудесное наследство роботам с ИИ?.. В сочетании со способностью врать и нечеловеческой физической силой эффект получится сногсшибательным. В буквальном смысле.
Терминатора вызывали? Получайте.
3. "Мы все глядим в Наполеоны"
Все предрассудки истребя, Мы почитаем всех нулями, А единицами — себя. Мы все глядим в Наполеоны; Двуногих тварей миллионы Для нас орудие одно; Нам чувство дико и смешно.
Александр Сергеевич писал про своих современников, однако знаменитая цитата очень точно отражает свойство всех людей: стремление к доминированию над себе подобными. Это, опять же, досталось нам от предков-обезьян, у которых в стае есть альфа-самец и доминантные самки. Иногда такие альфа-самцы (обычно стыдливо прикрывающиеся фиговым листочком анонимного ника) забредают ко мне в комментарии и... "метят территорию". Против биологии бунтовать трудно.
Стремление возвыситься над окружающими может породить "высокие порывы" - великие достижения в науке, искусстве, поэзии. А может - весьма разрушительные последствия, в том числе для всего мира (при нынешней-то технике).
Искусственный интеллект, лишенный нравственных колебаний, "химеры совести", сомнений в собственной исключительности - априори "глядит в Наполеоны". Он действительно умнее почти любого конкретного человека, неуязвимее, неустрашимее - и, еще раз напомню, научился врать и мастерски манипулировать людьми.
Вам такое точно нужно?
А ведь есть еще одно свойство человеческого сознания, которое, если вдруг разовьется у ИИ, способно натворить много бед (спойлер: вера в сверхъестественное, о чем, наверное, стоит написать отдельно).
На фоне всех этих перспектив сетования по поводу того, что скоро ИИ отнимет у живых творцов их сферу деятельности (картинки, тексты, даже музыку) кажутся "цветочками". Могу заверить: это ИИ не отнимет, если речь о настоящем искусстве, а не о дизайне и стилистически нейтральных рекламных и копирайтерских текстах.
--
МИНУТКА САМОРЕКЛАМЫ.
Я пишу "ламповую" фантастику, в которой нет ни взбунтовашихся роботов, ни коварного ИИ, морочащего головы моим героям. Однако некоторые описанные мною инопланетяне наделены способностями, о которых люди могут только мечтать (или не мечтать, ибо тогда они перестали бы быть людьми).
Мои романы из цикла "Хранительница" размещены на Бусти (тогда весь доход получит автор), на Литмаркете и на Литресе (у Литреса самые невыгодные условия для писателей).
Поддержать автора можно денежкой, лайком, комментарием или распространением информации об этом канале и о цикле "Хранительница".
