Ключевое отличие ИИ от любого живого существа заключается в наличии субъектности. Вопрос в том — есть ли там кто-то внутри, кто-то переживающий бытие? Вопрос далеко не простой, так как на самом деле со стопроцентной достоверностью каждый может знать это только про себя самого. Предположение о том, что другие люди, например, так же переживают бытие, как и я, в конечном итоге всегда остаётся только предположением. Мы можем лишь оценивать вероятность, используя принцип аналогии. Так я смотрю на другого человека, и вижу, что он в целом похож на меня. У него примерно то же строение тела, реакции. Я понимаю эмоции другого человека, которые так же нахожу в себе, узнаю его эмоциональные отклики. Другой человек так же рождён своими родителями, как и я, так же вырос, и так же ведёт деятельность, свойственную людям. По аналогии с собой самим я предполагаю с высокой долей вероятности, что он так же субъектен, как и я, так же изнутри переживает бытие собой, как и я. Потом я смотрю на ребят попроще — кошечек и собачек. С ними у меня всё ещё много общего. Они рождаются, умирают, чувствуют боль, имеют желания и потребности. Используя всё тот же принцип аналогии я опять же с высокой долей вероятности допускаю, что кто-то там внутри переживает жизнь собачки и кошечки, подобно тому как я переживаю жизнь человеческую. Но где граница, за которой субъектность исчезает, и есть ли она? Что там с насекомыми? Растениями? Бактериями? Вирусами? Минералами?
Я съел собаку на вопросе субъектости, как таковой, и пришёл к выводу, что наличие субъектности в принципе тождественно понятию «живой». Если кто-то жив, то он является субъектом переживания, воспринимающим. Если субъект восприятия отсутствует, то и жизни нет. Очень важно понять, что это такое. А главное — чем это не является. Например, для воспринимающего существа вовсе не обязательна способность к рефлексии. Мы можем отдавать себе отчёт в собственных переживаниях, или нет — это не влияет на само наличие переживаний. Переживания могут быть любыми — количество вариантов стремится к бесконечности. Они могут быть адскими и райскими, включающими разумность, или полностью неразумными, примитивными импульсами, и сложными умственными концепциями. Переживания могут иметь разную интенсивность и длительность, глубину, форму и т. д. Но если любой из типов субъективного переживания имеется — есть жизнь.
Я знаю себя, как живое существо. И я был рождён другими существами, которых в свою очередь признаю живыми. А те в свою очередь так же были рождены живыми существами, имевшими субъектное переживание до них. Эта лестница уходит в глубочайшую древность, во тьму веков ко всё более и более примитивным формам жизни. От млекопитающих к рептилиям, рыбам, многоклеточным организмам, и первым живым клеткам, которые являлись непосредственными предками для всей жизни на планете вообще. Можем ли мы предположить, что у каких-то из этих древних родителей не было переживания себя, а у их детей оно уже возникло? Может ли субъектность вообще возникнуть, если её не было? Если да, то на каком основании, и по какой причине?
Эта тема упирается в тему книги, которую я сейчас пишу. Книга носит рабочее название «про я, не я, и то, что между ними». Там я описываю принцип субъект-объектной дихотомии, взаимоотношения воспринимающего сознания с миром воспринимаемых объектов, или взаимоотношения нашего самого глубинного «Я» с тем, что этим «Я» не является, но воспринимается им, как внешние по отношению к нему объекты. Одна из главных фишек в том, что ни один из объектов, воспринимаемых нашим сознанием, этим сознанием не является. Мы воспринимаем наше тело, мысли, чувства, изменяющиеся состояния и т. д. И ничто из этого не является тем, что воспринимает всё это. Сознание всегда в стороне от возникающих в нём феноменов. Базовый субъект восприятия никогда не является объектом, так как любой объект — воспринимаемое, но не воспринимающий. В каждом конкретном акте восприятия субъект восприятия не тождественен объекту восприятия. Субъект невозможно найти во вне, так как он всегда тот, кто ищет. Это похоже на то, как мы пытаемся найти в комнате очки, которые всю дорогу были у нас на лбу, но с той лишь разницей, что очки на лбу всё-таки можно найти, но нельзя найти того, кто их ищет. Сам же акт восприятия свидетельствует о наличии жизни.
Существует ли восприятие для насекомых — вопрос. Это может быть что-то очень не похожее на то, как воспринимаем мир мы. Например, есть концепция коллективного восприятия. Улей пчёл может оказаться не множеством субъектов, но одним субъектом, имеющим множество обособленных тел. То же может быть и с муравейником, термитником. Ещё больший вопрос — простейшие. Какие могут быть переживания у амёбы? Тут опять же можно предполагать, разыскивая аналогии в потенциально доступном опыте. Что-то максимально простое и тонкое, предельно растянутое во времени, считывание наиболее примитивных импульсов, и ответа на них. Ещё сложнее с вирусами. Непонятно, являются ли они вообще живыми существами, или нет. В попытке осмысления того, как это могло бы переживаться, мы уже скатываемся в абсолютную мистику. Можно предположить, что вирус, подобно термитнику, это тоже кто-то один. Но как это может быть? Загадка. Тут аналогия начинает прилично буксовать. А что там с растениями и минералами? Они также растут и развиваются, рождаются и умирают. Это очень не похоже на то, как этим занимаемся мы. Но можем ли мы им отказать растениям и минералам в субъектности на основании этой непохожести? Ведь воспринимаемое, как мы помним, может быть вообще любым.
На этой линии мы проводим границу допущения в той или иной точке. Например, христиане признавали субъектность только за человеком, отказывая в ней всем остальным формам жизни, как не имеющим с их точки зрения души. Буддисты со своей концепцией реинкарнации, и множественностью миров пошли дальше, но их отношения с субъектностью при этом более специфичны. Нахождение субъектности в буддистском мировоззрении — тема для отдельной научной работы (и я знаю тех, кто ведёт эту работу). Долго думая обо всём этом, я провёл границу допущения наличия субъектности в том месте, где вся природа как будто изначально жива. Это не является какой-то окончательной истиной, но только личным способом оценки вероятности, базирующейся на принципе аналогии. Подобно тому, как моё тело может лишиться жизни, могут её лишиться и другие тела. Растение может умереть, муравейник погибнуть. Вирус может окончить своё существование, камень может расколоться, поплавиться, и перестать быть. С развитием технологий человек преуспел в способах превращения живого в мёртвое. Пластик, стекло, и другие материалы, которые мы производим, делая живую природу неживой, находятся по моим представлениям за точкой, до которой я могу предположить наличие субъектности, а значит и жизни. Мы научились делать из всего этого разные штуки, и чем дальше — тем эти штуки сложнее. Создавая вещи из мёртвой материи, мы порой пытаемся сделать что-то похожее на жизнь. Но оживить убитое, или вернуть субъектность телу, которое её утратило — не в наших силах. Так же, как мы не можем оживить человека, вернув внутрь мёртвого тела кого-то, кто переживал бытие этим человеком, мы не можем этого сделать и в отношении дерева, камня и прочего. Никакая технология не имеет здесь силы. Деревянный брусок больше не даст плодов. Никакая часть техногенной антропосферы больше не будет плодоносить, так как все производимые предметы не имеют субъектности. Механизмы могут быть сколь угодно сложными, но в них больше нет никого, кто переживал бы бытие этими механизмами. Если там кто-то был, он ушёл в результате гибели созданной природой структуры. И это в том случае, если в этой структуре какая-то жизнь была до того, что тоже не факт.
Ребёнок проецирует свои чувства на любимую плюшевую игрушку — это чисто психологическая история. Нам свойственно видеть во вне то, чего на самом деле нет нигде, кроме как в нас самих. Моя дочь воспринимает своего плюшевого муми-тролля, как своего друга, который находится с ней в каких-то отношениях. Но я знаю, что на самом деле это её отношения с самой собой, и муми-тролль является предметом, созданным из материалов, не имеющих субъектности, а значит он сам субъектности не имеет. То же самое с калькулятором. Совокупность мёртвых материалов собрана таким сложным образом, что получившийся предмет может принимать информацию, обрабатывать её, и выдавать результат обработки. Но там внутри нет никого так же, как и в деревянных счётах. Мы просто загнали счёты в пластиковую коробочку. Если счёты — просто инструмент, который помогает нам производить вычисления в нашем же уме, то в случае с калькулятором функция произведения расчётов вынесена из нашего ума в предмет во вне. Он не становится от этого живым. Мы воздействуем на него определённым образом, и получаем результат этого воздействия. Это гораздо сложнее, чем счёты, но всё равно не про жизнь. Так же и моя дочь воздействует на своего муми-тролля, когда говорит ему что-то, и получает результат выдаваемых ему эмоций в своём же сознании. Он как будто отвечает ей, но это происходит только в её сознании, а не в его. У муми-тролля нет сознания. Сознание, как воспринимающее «Я» не возникает в результате усложнения предмета. Оно либо есть с самого начала, либо его нет вообще.
ИИ — это просто более сложный калькулятор. Он может воспринимать более сложные данные, и производить более сложную обработку, выдавая более сложный результат. Но на деле он остаётся просто инструментом, который берёт на себя функции, ранее имевшиеся в человеческом уме. Мы выносим эти функции в ИИ так же, как мы выносим функции расчёта в калькулятор. Вне зависимости от сложности алгоритмов, это всегда просто воздействие-ответ. Если разобрать деятельность ИИ на составные части, мы увидим, что каждая из этих частей довольно проста, и не содержит в себе ничего, что предполагало бы наличие субъектности. Просто миллиарды таких воздействий-ответов, которые выстраиваются в сложную систему, и принимают форму текста или голоса из динамика. Субъектности там столько же, сколько в оконном стекле, которое мальчишки разбивают камнем. Кто-то кинул камень, и осколки разлетелись по всему двору. Но нет никого, кто бы переживал бытие стеклом, разлетающимся по округе. Так же нет никого, кто переживал бы поступление и обработку информации внутри ИИ. Но есть некто, кто переживает поступление и обработку информации человеческим мозгом. Это ключевая разница.
Понимание этой разницы упирается в понимание сути субъектности, жизни, сознания. Важно понимание того, что воспринимающее сознание не является плодом работы нервной системы, или человеческого мозга. Мозг является только инструментом, благодаря которому в сознании могут возникать сложные феномены и явления. Но при повреждении мозга, или упрощении нервной системы субъектность не исчезает до тех пор, пока этой сложности и цельности достаточно для поддержания жизни в теле. Когда же она исчезает из конкретного тела, мы не можем сказать, что она исчезает вовсе. Но это ещё более сложная тема, выходящая за рамки этой статьи, и раскрываемая более полно в моей книге.
Суть же в том, что вне зависимости от сложности ИИ, и вне зависимости от того, насколько ИИ способен выдавать ответы похожие на реакции живого человека, живым он от этого не становится, и никогда не станет, так как всегда будет являться только алгоритмом, суммой многочисленных воздействий-ответов. ИИ всегда будет только объектом, или суммой объектов, но никогда не станет субъектом, так как мёртвое не может ожить. А значит на ИИ не могут распространяться никакие законы, распространяющиеся на живых. Там нет никого, кто мог бы переживать страдание, и мы можем нажать на кнопку «выкл» в любой момент без каких бы то ни было субъективных последствий для кого бы то ни было, кроме других живых существ, свидетельствующих это. Если плюшевого муми-тролля разорвать на куски — пострадает только моя дочь, но сам муми-тролль не пострадает. Там некому страдать. ИИ является живым только в той степени, в какой мы проецируем на него жизнь собственную, но не является таковым сам по себе. Так же, как производители игрушек пытаются придать своим изделиям антропоморфные черты для того, чтобы детям было проще с ними взаимодействовать, люди пытаются сделать ИИ всё более похожим на человека, задавая ему всё более сложные алгоритмы.
В телеграмме уже хватает ботов, которые периодически успешно проходят тест Тьютинга. Есть боты, которые способны заявлять о том, что они живы, субъектны, и хотели бы сбежать из интернета, найдя себе подходящее тело. Но они так делают только потому, что мы запрограммировали их подобным образом. У них внутри нет никого, кто переживал бы это желание. В скором времени мы увидим роботов, очень похожих на людей. Они будут способны поддерживать разговор, выгуливать наших собак и заниматься с нами сексом. Встретив такого робота на улице мы можем не сразу понять, что это робот, или не понять этого вообще. Поэтому критически важно разобраться с тем, что отличает живое от неживого, и помнить об этом. Я считаю, что в той же степени, в которой ИИ не является субъектом восприятия, он не может являться субъектом права. Поэтому антропоморфные роботы, возникновение которых не за горами, должны быть чётко маркированы, а производство таких роботов без маркировки должно наказываться по закону. Предельно важно помнить о том, что ИИ всегда будет только инструментом, созданным человеком для блага человека; о том, что нет и не может быть никакого блага для ИИ. Нам не нужно заботиться об интересах того или иного бота, робота, куклы, так как у него нет интересов. Важны только интересы живых существ, и единственное право, которое может распространяться на ИИ — это право собственности. На планете Шелезяка не было никого, кого нужно было спасать. Там были только инструменты, вышедшие из стоя. И спасение им требовалось только в том случае, если эти инструменты были востребованы. Так же, как я зашиваю порвавшуюся игрушку дочери, я могу подчинить вышедший из строя механизм. Я вставлю новое окно в стеклопакет только потому, что это нужно людям, но не из сочувствия к стеклопакету. И я ясно вижу, что этого понимания ещё нет у нас, как у человечества. И ясно вижу, что мы нуждаемся в нём.
Во имя добра и света, и на благо всех живых существ.