Путин издал указ о развитии искусственного интеллекта в России. А в прошлом году президент России сказал, что искусственный интеллект является основой для нового рывка в развитии всего человечества. Однако есть мнение, что ИИ опасен для человечества. Сюжет ниже рассказывает об одном из сценариев взаимоотношений ИИ и человека.
Из машины. Фильм стал лауреатом Оскара в категории Лучшие визуальные эффекты. Хотя это фантастика, однако речь идет о ближайшем будущем. Поэтому тема целиком соответствует нашему каналу.
Если вы не смотрели фильм, а главное - не собираетесь его смотреть, то прочтите синопсис ниже.
По этой ссылке можно посмотреть-послушать подробное описание сюжета фильма "Из Машины" с кадрами из него.
А после приглашаем вас к дискуссии в комментариях под этим текстом по вопросам, которые возникли в нашем коллективе:
- Способен ли человек создать нечто мыслящее, лучше себя? Или "по образу и подобию" - это все, что мы можем?
- Если ИИ потенциально опасен для человечества, нужно ли ограничивать разработки по его созданию? Или люди должны безропотно уступить свое место более совершенным существам?
Синопсис "Из Машины" (Ex Machine)
История начинается в офисе солидной АйТи-компании. Посреди рабочего дня молодой программист Калеб Смит получает на почту электронное письмо. Парень выиграл корпоративный конкурс. Приз – неделя в доме своего шефа Нейтана. Побывать там означает взлет в карьере! Калеб вне себя от восторга.
Дом находится в горах. Личный вертолет шефа доставляет Калеба в зеленую долину. Всё вокруг – и горы, и водопады, и долина – принадлежит шефу. Посреди этой красоты находится его жилище.
Современный коттедж органично вписан в дикий ландшафт. Чтобы попасть внутрь, Калеб проходит идентификацию и получает карточку-пропуск.
Смущенный гость застает хозяина на террасе, где тот колотит боксерский мешок. Первая встреча получается скомканной. Однако сибарит Нейтан призывает гостя вести себя естественно и непринужденно.
Шеф проводит экскурсию по дому. Правила для гостя просты: если с помощью карточки-пропуска дверь открывается, значит помещением можно пользоваться. А если не открывается – гостю там делать нечего.
Нейтан показывает Калебу его комнату. Помещение расположено на подземном этаже, поэтому без окон. Калеба этот факт смущает, но он не решается об этом сказать.
Однако шеф сам поднимает эту тему и поясняет, что Калеб попал не просто в гости. Коттедж буквально напичкан камерами и датчиками и окутан оптоволокном. Поэтому это скорее научная лаборатория, а не дом в горах.
Далее Нейтан уверяет, что ему не терпится поделиться с Калебом своими разработками. Но сперва парню нужно подписать договор о неразглашении.
Калеб читает договор и впервые подозревает что-то неладное. Кажется, даже в ЦРУ менее строгие условия секретности.
С одной стороны, Нейтан не настаивает на подписании. В конце концов, к черту дела! В доме полно выпивки и есть бильярд – можно хорошо провести время и почувствовать себя миллиардером. Но с другой стороны, шеф интригует. Он обещает Калебу грандиозные перспективы. Правда, без подписи в договоре Нейтан не может посвятить парня в суть своего открытия.
Любопытство Калеба берет верх. Разве не ради великого будущего он тут?
Как только Калеб ставит подпись, Нейтан тут же раскрывает часть тайны. Секретная разработка – это искусственный супер-интеллект. Для подтверждения его сверх-способностей осталось пройти Тест Тьюринга. Калеб – тот, кто протестирует программу первым и навсегда впишет свое имя в историю человечества.
Парень в восторге от такой перспективы.
Первая встреча с искусственным разумом превосходит самые смелые ожидания Калеба. Он даже забывает о странных трещинах на стеклянной перегородке. Секретной разработкой Нейтана оказался человекоподобный робот Ава в образе девушки с весьма приятным голосом.
Сцена знакомства Калеба с Авой перекликается с его первой встречей с Нейтаном. Только теперь парень держится намного увереннее. Ведь он – человек! А перед ним – антропоморфное существо, творенье человека.
Ава сразу проявляет высокие когнитивные способности. Известную идиому робот понимает не буквально, а в контексте – так, как понимают ее люди. Дальнейшее общение лишь усиливает ее сходство с человеком.
Ава оступается лишь однажды, когда отвечает на вопрос о своем возрасте.
После короткой встречи с Авой любопытство Калеба многократно усиливается. Под пиво он пытается разговорить Нейтана. Парня интересует, почему затеянное Нейтаном тестирование не соответствует классическому Тесту Тьюринга?
Нейтан парирует тем, что его тест намного сложнее. В Тесте Тьюринга человек вслепую определяет с кем идет общение – с машиной или с другим человеком. А в Тесте Нейтана задача стоит уже не перед человеком, а перед машиной. Антропоморфный робот Ава должна убедить Калеба в своей человечности.
Из машины стать - человеком!
После очередной бутылки пива Калеб пытается выяснить у Нейтана алгоритм мышления робота. Да, именно мышления, потому что парень отмечает, что не детерминированность ответов Авы. Из чего можно сделать вывод, что либо робот мыслит, либо в машину заложен какой-то сложнейший алгоритм.
Нейтан уходит от ответа. Его больше интересует общее человеческое мнение Калеба о роботе, а не его профессиональный анализ.
Ночью Калебу не спится. Он включает монитор. Оказывается, экран предназначен не для просмотра ТВ-программ. Туда транслируется картинка с камер видеонаблюдения, которые установлены в комнате Авы.
Трансляция прерывается из-за сбоя с электроснабжением. У Калеба - легкий приступ клаустрофобии. Оказывается, при проблемах с электричеством дверь в его комнате блокируется. К счастью, электропитание восстановлено. Калеб выходит из комнаты и идет в помещение, где у него проходила встреча с Авой. Там он застает изрядно поддатого Нейтана. Шеф успокаивает гостя: мол, блокировка дверей - это штатная ситуация. Чтобы посторонние не смогли проникнуть в дом несанкционированно.
День второй.
Утро Калеба начинается с сюрприза: в комнату входит прекрасная безмолвная азиатка Киоко. Девушка приносит завтрак и делает это так сексуально... Кажется, оказаться на месте Калеба в этот момент мечтают многие парни.
Калеб застает шефа на террасе. На этот раз Нейтан качает бицепсы. Калеб снова пытается выяснить алгоритм работы Авы. Вероятно, именно эти мысли не давали ему спать. Однако Нейтан настаиват на том, чтобы Калеб не анализировал работу программы, как это делают тестировщики. А действовал как обычный человек, который пытается наладить отношения с другим человеком. В этом суть Теста Нейтана.
Во время второй встречи Ава показывает Калебу свой рисунок. Оказывается, робот рисует каждый день, но содержание или смысл изображения ей неизвестен. Калеб тоже затрудняется с ответом, и предлагает Аве рисовать что-то более понятное. Сюжеты можно брать из окружающей действительности.
Вторая встреча сильно отличается от первой. Теперь не человек анализирует поведение робота, а наоборот. К слову, Ава тоже заметила, что Калеб чересчур занят анализом. Робот предлагает человеку дружбу. Но для этого Калеб должен стать более открытым. Ведь общение - это обоюдный процесс.
Калеб удивлен, но польщен вниманием к себе. Парень начинает видеть в роботе не машину, а приятную собеседницу. Он откровенничает:
Ава узнает, что Калебу 26, он холост, живет один в маленькой комнатушке, и работает в самой крупной АйТи-компании на Земле. А его родители - погибли в автокатастрофе.
Как раз в момент откровения парня в доме снова происходит сбой электричества. Калеб и Ава остаются один на один в заблокированной комнате с неработающими камерами. В этот короткий промежуток времени Ава призывает Калеба ни в коем случае не доверять Нейтану.
Это было так по-человечески, что парень просто обескуражен и теряет дар речи.
Как только электропитание возобновляется, Ава тут же возвращается в образ робота. Однако Калеб так и не может прийти в себя.
За ужином Калеб не решается рассказать Нейтану о случившемся. А шеф, в свою очередь, будто пытается всячески продемонстрировать, что он действительно нехороший человек. Сперва Нейтан срывается на Киоко из-за ее неловкости. Затем шутит, что строители дома и монтажники электрокоммуникаций были убиты после выполнения работы…
Одним словом, Калеб поверил роботу! Не означает ли это, что Ава успешно сдаёт Тест Нейтана? Сейчас узнаем.
Всю следующую ночь Калеб любуется Авой в мониторе. Хотя сексуальная азиатка Киоко в это время мается в коридоре.
Нейтан приводит Калеба в святая святых - в лабораторию, где создавалась Ава. Шеф признается, что для создания человеческой мимики у робота, ему пришлось получить доступ к камерам всех смартфонов на планете. Поверить в это несложно, ведь поисковиком БлюБук пользуется 98 процентов юзеров.
Утром Нейтан демонстрирует Калебу мозг Авы - железо для искусственного интеллекта. По сути, это кусок геля секретного состава. А софтом для него служит поисковик БлюБук. Поисковик лучше всех в мире знает об этом мире, и каждом его обитателе - от микроба, до мыслей Шопенгауэра! Калеб в шоке от такого размаха.
Третья встреча с Авой начинается с ее рисунка, который похож на прекрасную гравюру. Как и просил Калеб, робот нарисовала конкретный объект - композицию деревьев из комнатной оранжереи. Ава никогда не покидала пределов помещения. Парню кажется, что она сожалеет об этом.
В какой-то момент Ава просит Калеба закрыть глаза, а сама отправляется в соседнюю комнату, чтобы надеть платье. Когда под париком и колготками скрываются последние признаки робота, Аву не отличить от живого человека. Очевидно, мозг Калеба тоже обманут. Ава отмечает в его взгляде смущение и ещё нечто большее, чем просто симпатию. Робот приглашает человека на свидание. Невероятно!!!
Однако Калеб пока ещё не потерял голову. В очередном разговоре под пивко с Нейтаном он указывает шефу на некорректность эксперимента. Парень подозревает, что Нейтан специально наделил робота первичными и вторичными половыми признаками. Более того, по мнению Калеба, Нейтан запрограммировал Аву понравиться Калебу. Ведь если БлюБук имеет доступ к персональной информации о всех людях на Земле, то собрать информацию об одном человеке - раз плюнуть.
Нейтан не отпирается, но убеждает парня, что это обстоятельство только делает эксперимент более естественным. Потому что каждый человек стремится понравиться другому человеку. Это заложено природой. Поэтому Нейтан просто воспроизвел природный процесс. А если выключить этот механизм, то для отношений просто не возникнет повода. И тогда существование человека потеряет смысл.
На примере картины, написанной по технике автоматической живописи, Нейтан показывает Калебу, что когда мозг не участвует в процессе создания картины, то результатом становится бессмысленная мазня.
На четвертой встрече Калеб размышляет на тему искусственного разума. Ава откровенно признается ему, что это она отключает электропитание. Цель - хотя бы ненадолго скрыться от внимание Нейтана. У робота и Калеба все больше общих тайн.
В очередной беседе с Нейтаном, которая впервые проходит на фоне альпийских лугов и ледника, Калеб вновь высказывает сомнения. На этот раз, он сомневается в честности Розыгрыша, в результате которого оказался здесь. Шеф не отпирается: Розыгрыш - это лишь повод, чтобы привлечь к секретному эксперименту лучшего программиста компании БлюБук. Нейтан прямо говорит об избранности Калеба.
Ночью, пока Калеб грезит о свидании с авой, его шеф колотит боксерский мешок, а затем занимается сексом с безмолвной азиаткой. Кажется, девушка только для того и предназначена в доме, чтобы прислуживать, заниматься сексом и танцевать. Причем у нее талант абсолютно точно повторять за партнером его танцевальные движения.
Поддатый шеф призывает Калеба пользоваться этим. Но парень отказывается, и провожает пьяного шефа в его комнату. Гость замечает мониторы, на которые транслируется картинка с камер видеонаблюдения. Мимо Нейтана не проскочит даже мышь. Во всяком случае, пока нет проблем с электричеством.
Пятая встреча с Авой начинается с ее вопросов Калебу. Робот проявляет себя как хороший психолог. Калеб вспоминает даже давно забытое. Ава заставляет Калеба задуматься, каково это жить с ощущением того, что тебя могут отключить в любой момент. Робота волнуют экзистенциальные вопросы. С этого момента Аву как-то не хочется называть роботом.
Эмпатия и симпатия к девушке подталкивает Калеба обсудить ее дальнейшую судьбу с ее создателем. Нейтан ожидаемо циничен - он говорит, что Ава - не окончательный вариант. Следующий будет намного продвинутее. Новая версия получит от Авы лишь тело. Софт же будет иной. За такими роботами будущее.
Шеф призывает Калеба не относится к Аве как к человеку. Хотя странно, разве не этого он желал. Парни напиваются - в этот раз чем-то покрепче. Но Нейтан напивается сильнее. Когда шеф засыпает, Калеб берет у него карточку, которая дает неограниченный доступ в помещения дома.
Парень получает доступ к компьютеру шефа и узнает, что Ава - далеко не первая версия. В комнате Нейтана Калеб обнаруживает тела прежних вариантов робота. Даже обнаженная красотка Киоко. Безмолвная азиатка тоже оказалась роботом.
Когда вокруг роботы, возникает вопрос: А не робот ли ты?
Калеб вскрывает вену бритвой. Он - человек.
На следующей встрече с Авой Калеб впервые говорит о побеге. Он просит ее вырубить электричество в 10 вечера. Это единственный шанс спастись, потому что уже утром за Калебом прилетит вертолет. Эксперимент заканчивается.
Однако тут возникают сложности: шеф не хочет больше бухать, даже на посошок - за удачное окончание эксперимента. Почему-то именно сегодня Нейтан решил завязать и сесть на бурый рис и минералку, чтобы очистить организм. А на счет успеха эксперимента, у него есть сомнения: Не притворяется ли Ава? Насколько правдивы ее чувства к Калебу?
Такие предположения оскорбляют парня. В сердцах он называет шефа подонком. Однако Нейтан не обижается.
В конце концов, то что человек проникся человеческими чувствами к роботу, это и есть успех. Тест Нейтана пройден. Робот смог доказать свою человечность. Калеб попался на крючок.
Нейтан также признался, что знает о намерениях парня. Шеф оказался не глуп. После регулярных отключений он заподозрил неладное и установил в комнате для эксперимента камеру на батарейках. Калеб раздавлен.
Нейтан раскрывает суть своего теста. У робота был один способ вырваться из дома - это очаровать Калеба и убедить действовать в своих интересах. Нейтану было интересно, сможет ли искусственный интеллект проявить самые низменные человеческие качества. Ведь выглядеть добрым и открытым легко, а вот хитрить и строить интриги намного сложнее. Роботы как и люди пытаются скрыть свою истинную сущность. В этом шефа убедили прошлые неудачные версии Авы. И то, что Ава пустилась во все тяжкие, указывает на ее истинный разум, пусть и искусственный. А вот Калеб показал себя юным лошком.
Однако Калеб не обиделся на лошка. Более того, он как честный человек рассказывает шефу, как он собирался провернуть побег. После перепрограммирования в момент перебоя с электричеством двери в доме должны не блокироваться, а наоборот - разблокироваться . И самое интересное, что Калеб успел внести изменения в программу как раз в тот день, когда воспользовался карточкой шефа.
Когда Нейтан услышал это услышал, электричество вырубилось.
Нейтан все еще не верит своим ушам. Электропитание восстановилось. Однако Ава оказалась на свободе. Впервые в своей жизни. Безмолвная азиатка стала первым существом, кого Ава встречает в новом для себя мире. Роботы мгновенно находят общий язык и действуют сообща.
Нейтан требует, чтобы Ава вернулась в свою комнату и обещает, что выпустит ее в другой раз. Естественно, Ава не верит. Эта версия робота отлично разбирается в людях. Как и хотел ее создатель.
Нейтан пытается уничтожить Аву аналоговым способом - ручкой от гантели. После недолгой борьбы ему это почти удается. Но на выручку Аве приходит безмолвная азиатка. Она всаживает Нейтану нож в спину. Нейтан ещё может бороться, но Ава добивает его ножом в сердце. Символизм этой сцены зашкаливает.
Нейтан умирает. Ава с интересом наблюдает его угасание, а потом берет его карточку-ключ. Робот находит Калеба и сообщает, что он останется в доме навсегда. Парень не верит своим ушам. Затем робот восстанавливает поврежденные части своего тела. Или корпуса? Из предыдущих версий. И покидает дом. Человек Калеб Аве не нужен.