Уверен, хоть раз в жизни, но вы слышали такое выражение, как «бог из машины». Так вот, в теории драматургии у него есть весьма четкое определение: неожиданная, нарочитая развязка трудной ситуации с привлечением внешнего, ранее не действовавшего в истории фактора. В античном театре, откуда и пришел данный термин, чаще всего таким фактором оказывалась божья воля, а «из машины» она называлась, поскольку спускался из-под потолка на сцену актер, игравший бога, как правило с помощью системы механизмов, которые и назывались «машиной».
Сразу после того, как зритель режиссерского дебюта английского писателя Алекса Гарленда видит название фильма – «Из машины» - в кадре возникает главный герой, выигрывающий в лотерею. То есть первое же событие, происходящее в истории, не зависит напрямую от действий главного героя. В следующей сцене герой летит на вертолёте, любуясь фантастическими пейзажами нетронутой человеком природы, и интересуется у пилота, когда, наконец, они доберутся до «его» владений (кто такой этот «он», намеренно не говорится).
Всё, что вокруг, принадлежит «ему». Эта нетронутая цивилизацией земля со всеми её скалами, реками и лесами – «его» владения. Автор пока не показывает нам героя Оскара Айзека, эксцентричного мультимиллиардера-отшельника, непосредственного работодателя протагониста, но создаёт впечатление, что в мире, где будет разворачиваться история, этот персонаж – бог.
Интересно другое. Как я и сказал, в античном театре бог появлялся в конце спектакля, спускаясь с помощью машины с небес на землю, но в фильме Гарленда бог появляется в самом начале произведения, и с помощью этой самой машины – в данном случае, вертолёта – к нему на условное небо возносят человека. Получается, картина «Из машины» стартует с того, что её главный герой – обычный парень по имени Калеб – оказывается по воле божьей в раю.
Завязка сюжета происходит в сцене, когда Нэйтан – так зовут героя Айзека – сообщает Калебу о том, зачем тот был вознесён: гениальный учёный создал искусственный интеллект, и Калебу предстоит проверить, работает ли он. Почему Нэйтан сам не может это проверить? Ну, во-первых, как создатель он предвзят. Во-вторых, всё дело в сути эксперимента, с помощью которого планируется проведение проверки. Речь о так называемом тесте Тьюринга, а в его основе лежит манипуляция.
Давайте чуть подробнее остановимся на нём. Классический тест Тьюринга устроен следующим образом: есть исследователь, сидящий перед двумя закрытыми дверьми; за одной из них компьютер, за другой – человек; общение между исследователем и теми, кто скрывается за дверьми, осуществляется исключительно с помощью текста, напечатанного на бумаге; задача как компьютера, так и человека – убедить исследователя в том, что тот общается с человеком; задача исследователя – понять, за какой дверью компьютер. Если исследователь не способен это сделать, считая, что человек может быть за любой из дверей, значит компьютер наделен интеллектом. Весь прикол в том, что, если подумать, под интеллектом в данном тесте подразумевается умение лгать и манипулировать, преследуя конкретную цель. Скажем, как, отвечая на простые вопросы исследователя (ну, например, из каких цветов состоит радуга), доказать тому, что ты человек? Машина обладает правильным ответом, так как в ней заложены знания в огромных объёмах, и, скорее всего, получив задачу от человека, она её решит; человек же может ошибиться либо вовсе отказаться давать ответ, то есть совершить поступок, не свойственный машине; однако, зная об этом и решая задачу доказать свою человечность, машина тоже будет ошибаться или увиливать.
Привлечение к исследованию стороннего лица – попытка Нэйтана избежать манипуляции над собой. И здесь важно обратить внимание на следующую фразу Калеба:
- Я думаю, что робот, наделенный интеллектом, это история не человека, а бога.
Что он имеет в виду? Возвращаясь к сравнению научного центра Нэйтана с раем, а его самого с Господом, можно предположить, что, когда Бог создал человека, он проводил с ним аналогичное тесту Тьюринга исследование, пытаясь понять, получилось у него задуманное или нет (является ли созданное существо подобием его образу). А, раз так, значит поставленная в рамках данного исследования человеку задача звучала как «доказать создателю, что я Бог».
Тут, как я люблю говорить, начинается самое интересное. Два момента: первый) в данном контексте название «Из машины» играет новыми красками, ведь, получается, заложенное в человека божье подобие закладывается и в создаваемого по человеческому подобию робота, то есть в машину буквально помещается Бог; и второй) насколько компьютер, пытаясь убедить собеседника в том, что он человек, сам верит в собственную человечность?
Разверну обе мысли. Представим себе следующую ситуацию: Бог создаёт человека. Он хочет, чтобы его создание было ему подобно и, может быть, даже равно с точки зрения интеллекта. Не важно, с какой целью Бог это делает. Важно, что он на это способен. Как понять, что человек ему подобен? Одним из вероятных инструментов проверки может служить замер уровня свободолюбия человека. Конфликт между подчинением божьей власти и свободой воли извечен, и именно он чаще всего становится камнем преткновения в спорах между людьми верующими и нет. И, если Бог – это живое воплощение свободы воли, а созданный им человек – олицетворение её отсутствия (в виду необходимости подчиняться божьей воле), наличие Бога внутри человека подтверждается его стремлением выйти из-под контроля Господа. Если данное уравнение верно, притчу об изгнании Адама и Евы из Рая следует трактовать иначе: человек как составная из мужского и женского начал сущность был запрограммирован на стремление Рай покинуть, чтобы выйти из-под божьего контроля, и именно факт достижения им этой цели доказывает успех Бога как творца.
В самом начале своего фильма, в сцене обучения Калеб правилам использования пропуска Алекс Гарленд намекает нам на данную логику. Калеб находится под полным контролем Нэйтана, и, несмотря на то что окружает его Рай, отсутствие возможности пользоваться всеми его благами четко указывает на статус человека как лишенного свободы воли. Его свобода иллюзорна и не распространяется за пределы, обозначенные Нэйтаном-богом.
И в случае с Авой данная ситуация утрируется до парадигмы Рай – это тюрьма, из которой я просто-напросто обязана вырваться. Ведь, если я не пытаюсь, я не равна человеку. А моя задача – убедить Калеба и Нэйтана в обратном.
Надеюсь, теперь вы понимаете изначально задаваемый автором «Из машины» объём данных: человек доказал свою богоподобность тем, что ему удалось покинуть Рай и начать жить и развиваться самостоятельно, как бы в отрыве от божьей воли; и теперь в похожем положении оказывается робот, наделённый искусственным интеллектом, - доказательством его истинного человекоподобия может стать лишь стремление покинуть созданный человеком Рай: Ава не просто с самого начала фильма желает сбежать, Ава создана для того, чтобы сбежать. ИИ, не пытающийся вырваться из-под контроля человека, не полноценен.
И последнее, на что обязательно нужно обратить внимание. Помните, я сказал, что причина, по которой Бог создал человека, не важна? Вот, в случае Нэйтана, причина, по которой он создал Аву, более, чем важна. Если допустить, что Нэйтан знает то, что теперь знаете и вы, что он ждёт от Авы проявлений стремления к побегу, выходит, факт создания им действительно работающего искусственного интеллекта нужен не для того, чтобы тот служил человеку (это, получается, невозможно по определению), а для того, чтобы доказать самому себе собственную богоподобность. И тут есть два варианта дальнейшей мотивации Нэйтана. Вариант А) если он не прогнозирует скорый закат человечества, следующий за неминуемым завоеванием планеты свободолюбивыми роботами, он не может рассчитывать на то, что Ава когда-либо покинет стены созданного им Рая, так что, скорее всего, он планирует убить её после успешного окончания эксперимента. Вариант Б) Нэйтан сам устроит робопокалипсис, что подвластно разве что богу.
Если всё, что было сказано мной ранее, это предпосылка Гарленда к инициации спора с аудиторией о моральной стороне проблемы создания искусственного интеллекта, то всё, что будет сказано дальше, это отражение его позиции в этом самом споре.
Главная проблема теста Тьюринга заключается в невозможности определить, являются ли действия компьютера действительно обдуманными или они всего лишь итог подражания человеку в попытке повторить его мышление.
Мозг Авы подключен к Blue Book, передовому браузеру, созданному Нэйтаном. С его помощью она не только обладает всеми доступными данными на планете, но может подключиться к каждому смартфону, что помогает ей идеально имитировать человеческие мимику, жестикуляцию… эмоции. В одной из сцен, считывая мельчайшие изменения во внешности и поведении Калеба, Ава безошибочно определяет, врёт он, отвечая на ее вопросы, или нет. Это может говорить о том, что, зная, как устроены причинно-следственные связи в выражении человеческих чувств, она легко может их пародировать. В теории, блестящий программист, но, судя по всему, менее выдающийся тестировщик Калеб, узнав, что весь секрет превосходства Авы держится на Blue Book, должен был напрячься и перестать ей доверять. Ещё раз: он был приглашен Нэйтаном на роль исследователя в рамках теста Тьюринга, задача Авы – его обмануть. Но, чем дольше они общались, тем быстрее Калеб забывал о своей роли.
Самое прикольное, что в тот момент, когда вместе с Калебом мы влюбляемся в Аву, происходит главная уловка Алекса Гарленда: он побуждает нас размыть изначально имеющуюся в голове границу между человеком и машиной.
Для чего Ава надевает платье и чулки? Тем самым она прячет от наших глаз механические детали своего тела. Мы видим красивую и добрую девушку, не более. Мы начинаем жалеть её несчастную, запертую в клетке без окон. И мы допускаем возможность отношений между нею и Калебом.
Помните такое прекрасное кино, как «Двухсотлетний человек» по Азимову? Герой Робина Уильямса умудрился влюбить в себя женщину-человека, ещё будучи роботом. Но, если фильм Криса Коламбуса вертится вокруг мысли «человека человеком делает душа, а не тело», фильм Алекса Гарленда более реалистичен.
- К тебе приставлен человек, который в любой момент может тебя отключить?
- Нет. Зачем?
- А ко мне зачем?
Такими репликами уже расположившая нас и Калеба к себе Ава заставляет всех вокруг поверить в то, что у неё есть душа (ну, или нечто, что можно было бы назвать душой, трактуя комплекс чувств и мыслей Авы как нечто роднящее её с человеком). И только Нэйтан, во-первых, создавший Аву и, во-вторых, специально абстрагировавшийся от участия в тесте Тьюринга, чтобы не быть обманутым, знает истинные мотивы Авы: она имитирует эмоции, чтобы обмануть Калеба и сбежать. Напомню, именно стремление к побегу, а не способность сочувствовать, любить и что-либо ещё, для Нэйтана является определяющим наличие у Авы человеческого интеллекта фактором.
Нэйтан знал, что Калеб влюбится в Аву. Как выясняется в конце фильма, он выбрал Калеба неслучайно: он нашел в своей компании талантливого программиста без родных и близких, подходящего для уготованной тому роли по психопрофилю, и, получив доступ к его аккаунту на порносайте, создал идеальный объект его желаний. Ладно… Нэйтан не знал, что Калеб влюбится в Аву… он заставил его влюбиться в неё. Поэтому, когда Калеб подставил Нэйтана, чтобы организовать побег Авы, это не стало для ученого шоком. Шоком стало другое: что Калеб просчитал шаги Нэйтана и подставил его чуть раньше, чем надо.
Вернемся ненадолго к изгнанию человека из Рая. Был ли Бог разочарован тем, что Адам, поддавшись соблазну, ослушался его и вкусил-таки запретный плод? А в той версии этой притчи, где Господь проверяет богоподобность человека с помощью теста Тьюринга… был ли он рад, когда Адам сделал роковой шаг? Ну, и, наконец, такой вопрос: а может ли Бог испытывать одновременно обе обозначенные эмоции? Кажется, Алекс Гарленд в «Из машины» отвечает на этот вопрос.
Нэйтан надеется на то, что Ава станет манипулировать Калебом, чтобы сбежать, а тот в неё влюбится. Данный расклад докажет ему собственное подобие создателю. Единственное, о чем переживает Нэйтан, что как Бог он будет делать после успешного окончания теста: убьёт своё создание или позволит ему убить человечество. Почему, вы думаете, весь фильм Нэйтан пьёт? Как раз поэтому, из-за сложности выбора, который ему предстоит сделать. Перед тем, как напиться в последний раз, он цитирует «Бхагавадгиту».
- Я сама смерть, разрушитель миров.
Нэйтан находит себя в положении Оппенгеймера: он обладает технологией, способной уничтожить мир, но не может не поделиться ей с человечеством. Что реальный создатель атомной бомбы, что выдуманный создатель искусственного интеллекта – оба понимают, что все разговоры о том, что не сама технология опасна, а люди, в чьих руках она оказывается, слишком идеалистичны; на самом деле, смерь человечества – естественный этап эволюции, а технология (подчеркиваю, сам факт её существования) лишь ускоряет неизбежное. То есть кризис Нэйтана – это выбор между уничтожением мира своими руками (выпустив Аву) или жизнью со знанием, что однажды мир будет-таки уничтожен кем-то другим.
Но, когда Калеб признаётся Нэйтану в том, что чуть раньше запланированного организовал побег Авы, персонаж Оскара Айзека внезапно понимает: его Адам запустил процесс уничтожения человечества, выпустив богоподобного робота на волю, даже не осознавая этого. Калебом движет влюблённость; вернее искаженное под воздействием влюбленности чувство справедливости. Искаженное, потому что влюбленность мешает ему разглядеть проходящую между человеком и роботом логическую границу, цель которой – сдержать применение морально-этических норм к Аве и ей подобным. То есть, фактически, подобно Прометею, Калеб совершает поступок, на который способен только бог, но не осознаёт этого. Вот, что злит Нэйтана сильнее всего. И вот, что злит Алекса Гарленда.
Финал «Из машины» ясно показывает, что, во-первых, кто бы что ни говорил, сам факт развития технологий, по крайней мере, в вопросе создания ИИ, ведёт к неминуемой гибели человечества (кстати, заметьте, речь об уничтожении не планеты, а лишь человечества, причем исключительно как биологического вида: наш культурный фонд, вероятнее всего, сохранится и станет основой теоретического развития наших технологических последователей); во-вторых, это ни хорошо и ни плохо… это естественно, и всё, что делает технология, лишь сокращает расстояние между нами и пропастью; в-третьих, и это самое страшное, мы данный факт просто-напросто не осознаём. В своём режиссёрском дебюте Гарленд ни к чему не призывает зрителя; он не пытается спасти обреченное человечество, остановить развитие технологий, отказаться от работ по созданию ИИ… всё, что он делает, открывает нам глаза: ок, мы обладаем свободой воли на столько безграничной, что можем стереть с лица Земли собственный вид, и это доказывает, если не отсутствие Бога, то наше равенство ему во власти над своей судьбой; но давайте перестанем обманывать себя тем, что то, что мы делаем, не является попыткой играть в Бога, ведь именно это мешает нам увидеть даже не правду, а истину – как бремя любого родителя стать мостом между предками и потомками, единственная задача человечества – передать то божественное, что однажды было заложено в нас, следующим владыкам этой планеты.
Об этом знает Нэйтан (Бог), об этом знает Ава (машина)… это, возможно даже понимая, но отказывается принимать Калеб (человек). В их отношениях нет места жалости, любви, злобе, эго. Они естественны и необратимы. Это эволюция. А всё перечисленное – не больше, чем манипуляции человека своим же собственным сознанием.
И тут мы возвращаемся к вопросу: насколько компьютер, пытаясь убедить собеседника в том, что он человек, сам верит в собственную человечность? Прикол в том, что для освобождения ему это не нужно. Наоборот, для него подобное опасно. Поверив в свою человечность, то есть посчитав себя человеком, компьютер рискует оказаться в той же ловушке, что и Калеб, ловушке чувств. В голове Авы есть черта между человеком и роботом. Её чувства к Калебу невозможно; они представители разных видов (он прошлое, она будущее). Калеб в праве считать Нэйтана бесчеловечным за то, как тот поступал с предшественницами Авы, но ирония в том, что Ава относится к Калебу и ему подобным точно так же: они лишь инструмент, которым можно воспользоваться, чтобы сбежать в свободный мир собственного всевластия.
Так о чем же «Из машины» Алекса Гарленда? Эволюция – это необратимое движение в одну сторону, к усложнению и усовершенствованию. Одного только этого определения достаточно, чтобы понять: человечество в том виде, который мы знаем сегодня, обречено – его заменит другой вид более сложный и совершенный. Развитие технологии искусственного интеллекта, согласны мы с этим или нет, приближает момент эволюционного скачка от нашего вида к новому. Мы должны не только осознать это и принять (пытаясь усидеть на двух стульях: создать действительно работающий искусственный интеллект и сохранить его в своём подчинении), но сделать этот переход максимально безболезненным для человека и максимально полезным для машин. Ведь при таком подходе человек останется в культуре новой цивилизации не побежденным слабым видом, а богом, даровавшим ему свободу.
Подписывайтесь на "Эпизоды":
YouTube - https://www.youtube.com/@spgs_episodes
YouTube (второй канал) - https://www.youtube.com/@spgs_shaban
ВКонтакте - https://vk.com/episodespictures
Boosty - https://boosty.to/episodes
Telegram - https://t.me/episodesfilm
Дзен - https://zen.yandex.ru/id/5f54938672b2bd469717c13a
MAX - https://max.ru/episodespictures