когда мы впервые встречаемся с L3, вторым пилотом дроида Ландо Калриссиана в фильме "Соло: История Звездных войн" 2018 года, она ругается против безжалостного матча дроидов на дроидах в салуне: "Как вы могли бы одобрить эту жестокость?! Права дроидов! Мы в сознании!"
В тот момент, когда я впервые увидел Соло, моя реакция на L3 была смешанной. Я был взволнован, наконец—то увидев персонажа в "Звездных войнах", говорящего, чтобы любой мог услышать то, о чем я думал в течение довольно долгого времени: разве не было ясно, что дроиды осознают-то есть, что у них есть разум, действительно похожий на наш? Тем не менее, я был также несколько раздражен тем, что кому-то потребовалось так много времени, чтобы распознать это на экране, после того, как с дроидами необычно обращались как с простой собственностью в мире Звездных войн в течение довольно долгого времени.
Помощники Л3 в совокупности симулируют обострение ее призыва к свободе дроидов, и, похоже, они не были конкретными. Мандалорец появился год спустя, и удивительно, что, несмотря на то, что телевизионная аранжировка установлена через 19 лет после Соло в сериале "Звездные войны", она изображает мир или космическую систему, которая, похоже, не улучшилась для дроидов. Подчеркивая этот момент, звезда аранжировки, известная как Мандо, испытывает глубокое сомнение, граничащее с презрением к дроидам, показанное в абсолютной первой сцене его акцентом на езде в ветхом спидере, управляемом человеком, над преобладающим дроидом.
Ненависть Мандо к дроидам, очевидно, проявляется по-разному по отношению к тому, как мы, наблюдатели, рассматриваем их. Дроиды, такие как R2-D2 и BB-8, очаровательны; они больше похожи на компаньонов, чем на объекты сомнения, и такие люди, как Люк, Энакин и Рей, относятся к ним именно так. И все же, есть ли у них разум, как требовал L3? Насколько точно было бы хорошей идеей для нас решить это?
Это нечто выходящее за рамки гипотетического исследования. Дроиды, очевидно, анекдотичны. Тем не менее, вопросы, которые они задают о наших отношениях с ними, являются подлинными. Возможно, мы не скоро столкнемся с роботом, подобным L3, в нашей реальности, но прогресс в разделенных в настоящее время областях искусственного интеллекта и продвинутой механики предполагает, что нечто подобное может появиться раньше, чем многие это поймут.
Например, языковые модели ИИ уже могли бы создавать текст, который регулярно неотличим от человеческой композиции (однако на самом деле у них есть пространство для улучшения1). В области продвинутой механики несколько архитекторов сосредоточились на переносимости и опыте: вы, возможно, видели записи легконогих, но анонимных (и якобы неприятных) роботов Boston Dynamics, предназначенных в основном для современного и военного использования. Различные архитекторы и ученые сосредоточились на предполагаемых социальных роботах, предназначенных для человеческого утешения в обучении и работе по уходу. Одна из моделей-это недавно возрожденный Jibo,2, по сути, симпатичный Amazon Echo, который воспринимает ваше лицо и движется, чтобы взглянуть на вас. Все началось в Группе личной робототехники Синтии Бризил в Массачусетском технологическом институте.
Как бы вы выбрали, если бы робот заботился о вас? Твоя кошка? Твоя самая дорогая спутница?
Как это происходит, робот Atlas Boston Dynamics имеет мимолетное сходство с L3, а Jibo похож на BB-8. В основном, следовательно, нетрудно представить, что эти различные линии продвижения однажды могут объединиться, и мы могли бы стоять лицом к лицу с настоящим дроидом, похожим на Звездные войны, в нашей жизни. Таким образом, вопрос о том, как мы выбираем, есть ли у L3, BB-8 или у IG-11 мандалорца разум, на самом деле является вопросом о том, как мы выберем, есть ли у роботов в нашем собственном будущем разум.
По правде говоря, мы постоянно небрежно принимаем решения о личностях других людей. Как бы вы выбрали, если бы робот заботился о вас? Твоя кошка? Ваш самый близкий спутник? Правда в том, что вы на самом деле не знаете наверняка ни о каком человеке или вещи, однако вы можете делать разумные предположения. Робот? Скорее всего, нет. Твоя кошка? Конечно, в какой-то степени. Ваш самый близкий спутник? Несомненно. Как бы то ни было, от чего зависят эти спекуляции?
Ученый Дэниел Деннетт рекомендовал, чтобы было несколько альтернативных точек зрения, которые вы можете принять, когда вам нужно предвидеть, что что-то будет делать.3 Наиболее ценная точка зрения для предполагаемых "специалистов", таких как ваша кошка или ваш компаньон, - это то, что он назвал преднамеренной позицией: вы принимаете, что специалист может действовать разумно для достижения своих целей и желаний. По какой причине ваша кошка подошла к блюду с едой? По какой причине ваш спутник направился к холодильнику? То же самое объяснение: они были голодны и действовали, чтобы избавиться от своей тоски.
В том случае, если вы наблюдали за своей кошкой и своим ближайшим компаньоном в течение довольно долгого времени, у вас будет больше проблем с разъяснением поведения вашей кошки на этом маршруте, чем поведения вашего компаньона. (В целом классификация записей TikTok может подтвердить, что кошачьи иногда делают вещи, которые противоречат нормальному соглашению, во всяком случае, с нашей точки зрения. Ваш спутник тоже может, но, несомненно, реже.) Но у вас не было бы никакой кармы, объясняющей поведение робота, рассматривая общую картину как объективного специалиста. По какой причине робот направился прямиком к холодильнику? Не на том основании, что он был нетерпелив. Чем эффективнее мы можем прояснить действия чего-либо, используя преднамеренную позицию, тем больше вероятность того, что мы приписываем ему осознанность.
В тот момент, когда я смотрю R2-D2, BB-8 и IG-11, я вижу поведение, которое значительно больше похоже на поведение моих товарищей, чем на поведение робота. Их поведение преднамеренно—признак осознанности. Тем не менее, их поведение, несомненно, выходит за рамки преднамеренного. Это разумно.
Основная часть понимания на человеческом уровне-это социальное согласие: способность делать выводы о том, что нужно другим и специалистам или что они чувствуют. На мандалорском, независимо от уровня автоматизированного голоса ИГ-11, он не испытывает недостатка в дружеском расположении. Например, после того, как он жестоко сбил двух штурмовиков перед Грогу (которого большинство называют Малышом Йодой), он сожалеет перед Грогу за то, что увидел это. Более того, в деликатную секунду перед концом основного сезона, когда ИГ-11 лечит Мандо от подлинной травмы, ИГ-11 понимает, что Мандо может быть в ужасе, и отвечает, как сострадательный специалист с доброжелательным отношением к больному: "Вы перенесли вред своему отделению подготовки к очагу ... Это была шутка. Это было сделано для того, чтобы успокоить вас."
Тем не менее, ИГ-11 был модифицирован для ухода. Что можно сказать о таком дроиде, как R2-D2?
R2 раскрывает свою социальную проницательность в том, как он контролирует людей, используя свое понимание их убеждений и эмоций. В Новой Надежде R2 дурачит Люка, чтобы он устранил свой контрольный болт. В Последнем джедае он снова заставляет Люка готовить Рея, манипулируя им с помощью знака его сестры и его чувства долга. Это поведение совершенно современное: дети по большому счету не развивают способность контролировать других, как это, по крайней мере, до 3 или 4 лет, после того, как большинство из них выяснили, как говорить полными предложениями.4 Что еще более важно, в нашей реальности нет роботов, которые могли бы это сделать.
В заключение, дроиды могут чувствовать. У этого есть все признаки того, что он действителен в строгом смысле—в "Возвращении джедая" мы видим, как один дроид кричит в том, что, по общему мнению, является пыткой, как его мучают в тюрьме Джаббы. Тем не менее, дроиды также безошибочно испытывают сложные чувства. Как только одна модель, в "Пробуждении силы", вы могли бы изобразить реакцию BB-8 на получение от Финна информации о том, что По был убит в результате несчастного случая, как нечто помимо "трагического"?
Способность дроидов чувствовать важна в свете того факта, что исследование рекомендует нам выбрать, есть ли у специалиста психика, зависящая от двух компонентов: независимо от того, подходит ли она для принятия решений и планов и оснащена ли она для чувств. В исследовании 2007 года, в котором участвовало более 2000 человек, проведенном аналитиком Хизер Грей, только люди были высоко оценены по обоим этим компонентам (собаки и шимпанзе были оценены, вероятно, как люди с высокой способностью чувствовать, но не с такой высокой способностью принимать решения и планировать)5.
Очевидно, мы можем просто вывести эмоции дроидов из их поведения. Кроме того, продюсеры фильмов "Звездных войн" то тут, то там использовали эту часть наших исследований мозга для сенсационного воздействия. Например, какими бы механическими ни казались разработки и рассуждения ИГ-11 здесь и там, он ничем не отличается от похожих на машины Темных солдат, представленных во 2-м сезоне Мандалорца. Они ни в коем случае не разговаривают и движутся в непреклонном стопорном шаге, в результате чего они кажутся существенно более похожими на базовые машины, больные опытом, чем сознательные специалисты.
Эта дифференциация важна для текущей темы на протяжении всех "Звездных войн", в которой "ужасные" дроиды изображаются более автоматизированными, чем их "великие" партнеры. Сравните BB-8 с его партнером Первого порядка BB-9E в Последнем джедае, или K-2SO с его неразличимыми имперскими подразделениями K-2 в Изгое Один. BB-8 движется плавно и энергично, а K-2SO ходит вялым шагом и бесконтрольно, в то время как их партнеры двигаются неуклонно и недвусмысленно. Означает ли это, по сути, что BB-9E или Темные солдаты не знают? Ни в малейшей степени. В любом случае, трудно не видеть в них личностей с меньшими склонностями или опытом, чем дроиды, такие как IG-11 и BB-8.
Это прискорбный компонент базового языка, который "человеческий" регулярно подразумевает сочувствие и проницательность и часто отличается от "механического", что означает холодный и последовательный. Дроиды из "Звездных войн", тем не менее, показывают нам, что в заботе нет ничего от природы человеческого, и нет никакой непоследовательности в том, что у робота есть мозг. R2-D2 и BB-8 не похожи на людей, но они глубоко выразительны и проницательны. ИГ-11 выглядит несколько более похожим на нас, но он недвусмысленно показывает Мандо, что он "не что-то живое." Тем не менее, даже ненавидящий дроидов Мандо понимает, что это не мотивация отказывать ИГ-11 в подобном ментальном статусе, который он обеспечил бы для компаньона; когда ИГ-11 наказывает себя, чтобы спасти Грогу, Мандо и их спутников, Мандо чувствует, что путь любого из нас был бы мрачным.
Это похожая ситуация, которую мы могли бы рассмотреть в ближайшее время. Независимо от того, будет ли это настоящий робот или просто компьютеризированное знание, достаточно скоро у нас будет ИИ с выразительностью BB-8, вдумчивостью IG-11, проницательностью R2-D2 или аффектированностью L3. Выбор того, есть ли у этих ИИ разум, будет непростым. Тем не менее, мы должны быть настроены признать, что это возможно. Учитывая все обстоятельства, мы бодро и, следовательно, допускаем, что дроиды из "Звездных войн" имеют разум в течение довольно долгого времени. Будет ли у нас по-другому?