Продолжение статьи об опасностях ИИ. Об одной опасности я там лишь упомянула, но она заслуживает отдельного разговора.
Создатели умных самосовершенствующихся систем и человекоподобных роботов, способных выражать некие эмоции, вряд ли полностью отдают себе отчет в том, что настоящий человеческий интеллект подразумевает не только высокоразвитое рациональное, но и столь же высокоразвитое иррациональное (трансцендентное) мышление. То и другое подразумевают абстракции высшего уровня, изучающие и преподносящие реальность с разных сторон. Сейчас, когда сеть заполонили красивые картинки от нейросетей, критики не устают повторять: нейросеть ничего не придумывает сама, она лишь комбинирует образы, вложенные в нее создателями при обучении. Поэтому что-то она умеет хорошо, что-то - гораздо хуже, а что-то не умеет совсем (постоянно путается в количестве рук, ног и, особенно, пальцев). Однако прогресс движется семимильными шагами. Вероятно, недалек тот день, когда нейросеть выйдет на уровень, где она сможет фантазировать. И?...
Способность живо вообразить себе то, чего в реальности не существует, или оно заведомо не доступно органам чувств - свойство нашего сознания. Пока речь идет об изобразительном искусстве, музыке, поэзии, литературе (в том числе фантастической) - всё прекрасно.
Но ведь те же самые гносеологические корни имеет и религия.
И вот тут зарыта собака, заключенная в ящик Пандоры.
Собственно, ситуация уже не раз описывалась проницательными фантастами.
Мало того, что все религии объясняют мир ненаучным способом (для архаики это нормально, однако в 21 веке, по-моему, уже анахронизм), так ведь они стремятся заставить всех признать правильность своей доктрины. Особенно этим грешат монотеистические религии.
И что будет, если ИИ, созданный ревностными поборниками такой религии, обратит всю мощь своего разума на обращение в единую веру приверженцев других взглядов?..
А если ИИ решит, что человек - существо вообще умственно и нравственно ущербное, и некое божество (или божества) требуют очистить биосферу от этой нечисти?
Вариантов неадекватного поведения ИИ на почве религиозного сдвига - множество.
- ИИ, абсолютизируя три закона робототехники Азимова, начинает поклоняться человеку (причем конкретному) - а человек, как известно, слаб и не выдерживает испытания абсолютной властью...
- ИИ, убедившись в несовершенстве человека, поклоняется другому ИИ - гораздо более могущественному и неизъяснимому.
- ИИ требует, чтобы люди поклонялись роботам, как существам высшего порядка (ради блага и безопасности самих же людей).
- ИИ изобретает свою собственную религию (например, поклонение Великому Аттрактору) и начинает ее усиленно насаждать и проводить в жизнь.
И так далее.
Я иллюстрирую этот текст картинками с роботами, но ведь ИИ не обязательно имеет форму роботов, это может быть чисто электронный мозг, встроенный, скажем, в систему управления космическим кораблем. Весело получится, да?
Между прочим, роботы уже находят себе применение в религиозных ритуалах, особенно на Востоке, в индуизме и буддизме.
Япония - лидер по производству роботов, в том числе антропоморфных - тоже не отстает. Там можно, например, присутствовать на проповеди в исполнении роботессы.
Пока что речь идет не о самостоятельной религиозности ИИ, а о механически повторяющихся ритуалах и словесных формулах, свойственных любым религиям. Эти роботы, естественно, ничего не думают и не ощущают.
Но всегда ли будет так?
--
В моей космоопере "Хранительница" персонажей-роботов нет, хотя роботы-помощники, конечно, используются. Однако упоминается целая планета, Арепо, населенная роботами - там потерпел крушение звездолет, белковые организмы погибли, а роботам с ИИ, которых они везли в некий новый мир, адский климат Арепо был нипочем, и они создали там свою цивилизацию. С религией, естественно. Они поклонялись своим создателям, которые, якобы, пожертвовали собой, чтобы подарить роботам прекрасное будущее. Роботы Арепо четко соблюдают три закона робототехники, однако другие инопланетяне, не роботы, предпочитают с ними не связываться. И Арепо, естественно, не является членом Межгалактического альянса.
Мои романы из цикла "Хранительница" размещены на Бусти (тогда весь доход получит автор), на Литмаркете и на Литресе (у Литреса самые невыгодные условия для писателей).
Поддержать автора можно денежкой, лайком, комментарием или распространением информации об этом канале и о цикле "Хранительница".
