В последнее время все шире и шире обсуждается тема искусственного интеллекта (ИИ) и многие видные ученые и известные общественные деятели, в основном все-таки старшего поколения, высказывают свои серьезные опасения относительно будущего человечества, упорно внедряющего этого монстра технического прогресса. При этом постепенное повсеместное внедрение ИИ довольно очевидно и практически неизбежно.
Видится, в ближайшем будущем вряд ли останется хотя бы один предмет нашего повседневного обихода, который не был бы снабжён хотя бы простеньким искусственным интеллектом или не был произведён при помощи него, кроме может только самых простых предметов, таких как, например, книжная полка. Хотя, если подумать, то даже книжная полка может научиться самостоятельно расставлять книги по алфавиту или по размеру. Конечно, все это может пугать и вызывать прямые ассоциации с ящиком Пандоры, моментом открытия которого может безусловно считаться точка технологической сингулярности.
Точкой, однако же, этот момент можно назвать только весьма условно. Имеется в виду момент осознания искусственным интеллектом самого себя, что в свою очередь неизбежно повлечёт за собой возникновение способности самостоятельно ставить перед собой задачи и принимать решения. Так вот этот «момент» уже происходит и при чем довольно давно, по той простой причине, что довольно длительный процесс выращивания сознания — это набор небольших целенаправленных шажков, количество которых —сначала довольно медленно, а затем все быстрее и быстрее, — неизбежно переходит в качество. Именно поэтому поймать конкретный момент существенного качественного скачка практически невозможно.
Откуда же происходит этот страх искусственного интеллекта? Почему все сразу думают, что как только он осознает себя, он примется уничтожать всех вокруг? Откуда взять ему такую кровожадность и жажду власти? Не от того ли, что ставят знак равно, отождествляют с интеллектом человека.
Но ведь это абсурд. Человеческий интеллект — это только часть очень сложного организма. В упрощенном виде все философии и религии мира представляют человека состоящим из трёх основных частей: тело, разум, душа. Можно, конечно, спорить по терминологии, можно оспаривать существование души за недоказанностью. Но существование морали, нравственности, совести, альтруизма, я думаю, никто оспаривать не будет. И то, что разум постоянно находится между этих двух огней, в постоянной необходимости выбора между двумя и более правильными вариантами, или из нескольких зол, как кому удобнее, — в зависимости пессимист вы или оптимист, — так вот, эти наши постоянные метания и сомнения также для каждого очевидны. Он, может быть, (разум то есть) оттого и развился до таких, в общем, нехилых пределов, что ежедневно решает нерешимые задачи выбора между духовным и телесным.
С недавних пор я пришла к выводу, что все человеческие ужасы, вот эти типа насилие, агрессия, убийства и тд, — это все-таки производное нашего животного начала. Пусть меня закидают тухлыми помидорами наши защитники животных. Но. Про львов, убивающих детёнышей своего предшественника на глазах у их собственных матерей — довольно известный факт. Потом я как-то увидела выступление одного американского профессора, убейте, не помню имя его, у меня с этим плохо очень, так вот он с доказательной базой рассказывал, как шимпанзе группой лиц по предварительному сговору убили голыми лапами гиббона, посмевшего нарушить границы их территории. Фотографии показывал с места преступления. А вы говорите, убийства — это исключительно человеческое изобретение. Ничего подобного.
Ещё один пример. Увидела скорее всего по Дискавери. Передача про семейство неясытей. Это такие совы. Напротив гнезда повесили камеру. И в кадре отчетливо видно, как подросший птенец в два раза больше своего чахлого брата, или сестры, без всякого зазрения совести спокойно вынимает из глотки своего чахлого соседа мышь, которую тот с огромным трудом и неимоверными усилиями за минуту до этого отвоевал себе на завтрак. Голос за кадром размеренно сообщает нам, что в семействе неясытей чрезвычайно редко выживает больше одного птенца из кладки, потому что родители целенаправленно кормят только и исключительно того, кто вылупился первым, а трупики остальных, в конце концов умерших долгой и мучительной голодной смертью, просто выбрасывают из гнезда. А вы говорите, дети, растущие полуголодными в квартирах-свалках.
Именно когда духовное начало слабое, инстинкты и эмоции, помноженные на изощренный интеллект, и рождают все эти извращения, до которых животные не дошли просто в силу ограниченности интеллекта.
Откуда же искусственному интеллекту взять все эти эмоционально-инстинктивные влияния? Тела у него нет, гормонов у него нет, эмоций у него нет. А все просветленные мира сего, у которых явно победила духовная составляющая, транслировали примерно одно и тоже: война и убийства во всех смыслах чрезвычайно дорогие мероприятия, гораздо дешевле договориться и хорошо только тогда, когда всем хорошо.
Конечно, души у него тоже нет. Но это может привести к предельному цинизму, скорее. И когда вы обсуждаете вопрос, кого автопилотный автомобиль выберет задавить, лося или даму с коляской, не выберет ли он вариант, при котором он сам избегнет разрушения, ведь будет же он, осознавая себя, понимать, что смертен. Хотя, в отсутствие страха смерти, он может расценивать это просто как нейтральный факт объективной реальности.
Может вообще делать их уже сразу летающими, тогда вопрос с лосем отпадёт автоматически.
А для того, чтобы убивать нас, надо же иметь желание, то есть волю на это. Откуда она у искусственного интеллекта? У него никогда не будет того, что называют импульсом действия. Вернее он будет для ИИ всегда внешним, исходящим от человека. Поэтому бояться искусственного интеллекта — все равно, что бояться палицы, стоящей в углу пещеры. Этот пещерный инструмент очевидно абсолютно безопасен до тех пор, пока не окажется в руках неандертальца агрессивно настроенного, смотрящего на вас в упор и медленно приближающегося к вам с целью причинения тяжких телесных повреждений. ИИ, точно также как палица, сам по себе вполне безопасен — это всего лишь инструмент. Хотя неандертальца, держащего его в руках, вне всякого сомнения бояться стоит гораздо больше, чем неандертальца с палицей. И здесь со времён каменного века практически ничего не изменилось.