Самая большая опасность для человечества – искусственный интеллект
Вот уж что я точно рекомендую посмотреть в эти дни родителям вместе с детьми любого возраста, так это фильм «2001 год: Космическая Одиссея» Стэнли Кубрика, снятый им в далеком 1968 году.
Сценарий писали совместно Кубрик и великий фантаст Артур Кларк. Фильму «2001 год: Космическая Одиссея» исполняется 50 лет, и к этой дате его отреставрировал режиссер Кристофер Нолан. Премьерный показ этой версии открыл 71-й Каннский кинофестиваль. А теперь ее можно увидеть в московских кинотеатрах.
На заре человечества
Об этом невероятном фильме написано много. Но я хочу остановиться на одной теме. По-моему, она сегодня (как это высокопарно ни звучит) едва ли не главная для судеб человечества.
Речь идет об искусственном интеллекте, о роботах, которые в обозримом будущем могут взять верх над человеком и человечеством. Об этом, по сути – фильм Кубрика.
Начинается картина с долгого-долгого молчания: мы видим черноту, бесконечность, космос – без цвета, воздуха, жизни (приходит на ум «Черный квадрат» Малевича). Сначала – «звучит» тишина, а потом непонятная, атональная музыка-шумы, которую сменяет заставка из программы «Что? Где? Когда?» (точнее, из симфонической поэмы «Так говорил Заратустра», написанной Рихардом Штраусом в 1896 году).
Первые слова появляются на 26-й минуте фильма. Диалогов здесь очень мало. Зато много музыки. Вальс Иоганна Штрауса «На прекрасном голубом Дунае» сопровождает демонстрацию космических достижений. Потом появляется надпись: «На заре человечества». И на фоне безжизненных (потому что – без «человека разумного») пейзажей мы видим бессмысленных австралопитеков, обгладывающих кости.
Потом они засыпают. А просыпаются от того, что перед ними вырастает высокий параллелепипед из непонятной стали (монолит). В общем, после появления монолита обезьяноподобные австралопитеки вдруг научаются пользоваться предметами (костями животных) в качестве инструментов и оружия. И начинают убивать.
Ну а потом, слава Богу, мы переносимся в будущее. И оказываемся на космическом корабле. Мы узнаем, что в конце ХХ века на Луне был обнаружен такой же, как в древности, «монолит», погребенный под толщей лунного грунта. Когда его попытались извлечь на поверхность, в лучах Солнца он неожиданно послал мощный сигнал во внешний космос.
Оказалось, что сигнал был послан такому же, но гораздо большему «монолиту» на Юпитере. Чтобы исследовать это явление, было решено использовать экспедицию «Дискавери» на Юпитер.
Полет был доверен трем членам экипажа – двум пилотам НАСА и новейшему компьютеру с искусственным интеллектом HAL 9000 (другие члены команды отправились в полет в состоянии анабиоза). Проблема заключалась в том, что только HAL знал об истинных целях экспедиции.
Помимо логических построений и имитации человеческих эмоций, в алгоритмы работы HAL 9000 были привнесены жесткие инструкции об истинной цели полета со стороны военных, что и предопределило трагический исход экспедиции.
HAL 9000 взял командование операцией на себя, считая, что только он способен выполнить поставленную задачу. Сначала он солгал членам экипажа о неисправности блока антенны связи с Землей.
А затем, в ответ на разговор пилотов о недоверии искусственному интеллекту (то есть ему), он убил одного из членов экипажа в открытом космосе, имитировав несчастный случай, и после отключил системы жизнеобеспечения находящихся в анабиозе ученых.
Чудом выживший Дейв Боумен смог деактивировать HAL 9000 и достичь Юпитера. Там ему была объяснена истинная цель экспедиции – третий «монолит», но когда Боумен попытался обследовать его, то был унесен «за бесконечность» (так называется последняя глава фильма, по книге – за двадцать тысяч световых лет от Земли).
Боумен оказался в странной комнате, где он быстро постарел. А на его смертном одре четвертый «монолит» превратил Боумена в «Звездное дитя». В финале картины зритель видит Боумена взирающим на Землю из космоса в новом обличье – младенца во чреве матери.
Кто важнее – человек или компьютер
В общем, получается, что Кубрик наделил главный компьютер миссии «Юпитер» интеллектом на уровне человека и способностью различать человеческие эмоции.
Обман, разговоры по душам, рефлексия – все это свойственно этому суперкомпьютеру.
Режиссер согласился с мнением специалистов, что сложные компьютеры с возможностью самообучения на основе накопленного опыта рано или поздно разовьют такие эмоции, как страх, ненависть, любовь и зависть. В конечном итоге эти машины станут подвержены обычным человеческим расстройствам психики, как HAL в этом фильме.
«Я, робот»
Эта тема получила развитие, когда в 2004 году вышел фильм «Я, робот» Алекса Пройаса (автора «Ворона» и «Темного города»). Совершенно недооцененный, созданный по мотивам прозы Айзека Азимова. В нем полицейский, которого играет Уилл Смит, расследует в Чикаго 2035 года убийство ученого, возможно, как раз и совершенное роботом.
В общем, там подавляется восстание роботов. Железных человечков (которым люди больше не доверяют) под армейскими дулами отправляют на склады-свалки... И тут-то происходит казус, который рецензенты не желают замечать. На песчаной возвышенности над складами появляется тот самый робот (его зовут Санни), подозревавшийся в убийстве ученого, но оказавшийся в результате вроде бы положительным – именно он помог людям победить.
В отличие от бездушных управляемых собратьев он был сделан своим «папой» – ученым (который и погиб в начале фильма) таким, что способен испытывать эмоции, видеть сны, иметь тайны, лукавить. Это, в общем-то, человек, но не просто, а с приставкой «сверх».
Так вот: роботы усмирены, запрограммированы на покорность, поэтому бредут на свалку безропотно. И вдруг видят собрата, который стоит в отдалении свободным. И тогда в их железных, еще секунду назад подконтрольных мозгах начинают зарождаться какие-то первые несанкционированные мысли. Робот-сверхчеловек Санни, очевидно, может стать для них мессией.
Как показал сериал «Секретные материалы», который называли энциклопедией современных фобий, у человечества масса страхов перед неизведанным. человечества – искусственный интеллект
Вот уж что я точно рекомендую посмотреть в эти дни родителям вместе с детьми любого возраста, так это фильм «2001 год: Космическая Одиссея» Стэнли Кубрика, снятый им в далеком 1968 году.
Кто важнее – человек или компьютер
В общем, получается, что Кубрик наделил главный компьютер миссии «Юпитер» интеллектом на уровне человека и способностью различать человеческие эмоции.
Обман, разговоры по душам, рефлексия – все это свойственно этому суперкомпьютеру.
Режиссер согласился с мнением специалистов, что сложные компьютеры с возможностью самообучения на основе накопленного опыта рано или поздно разовьют такие эмоции, как страх, ненависть, любовь и зависть. В конечном итоге эти машины станут подвержены обычным человеческим расстройствам психики, как HAL в этом фильме.
«Я, робот»
Эта тема получила развитие, когда в 2004 году вышел фильм «Я, робот» Алекса Пройаса (автора «Ворона» и «Темного города»). Совершенно недооцененный, созданный по мотивам прозы Айзека Азимова. В нем полицейский, которого играет Уилл Смит, расследует в Чикаго 2035 года убийство ученого, возможно, как раз и совершенное роботом.
В общем, там подавляется восстание роботов. Железных человечков (которым люди больше не доверяют) под армейскими дулами отправляют на склады-свалки... И тут-то происходит казус, который рецензенты не желают замечать. На песчаной возвышенности над складами появляется тот самый робот (его зовут Санни), подозревавшийся в убийстве ученого, но оказавшийся в результате вроде бы положительным – именно он помог людям победить.
В отличие от бездушных управляемых собратьев он был сделан своим «папой» – ученым (который и погиб в начале фильма) таким, что способен испытывать эмоции, видеть сны, иметь тайны, лукавить. Это, в общем-то, человек, но не просто, а с приставкой «сверх».
Так вот: роботы усмирены, запрограммированы на покорность, поэтому бредут на свалку безропотно. И вдруг видят собрата, который стоит в отдалении свободным. И тогда в их железных, еще секунду назад подконтрольных мозгах начинают зарождаться какие-то первые несанкционированные мысли. Робот-сверхчеловек Санни, очевидно, может стать для них мессией.
Как показал сериал «Секретные материалы», который называли энциклопедией современных фобий, у человечества масса страхов перед неизведанным.