Я смог к нему прикоснуться. По крайней мере стал довольно продвинутым пользователем платформы «Шедеврум». И чем глубже я ее изучал, тем больше понимал, насколько пока что она далека от интеллекта. Она не может изобразить дорогу, идущую поперек экрана. Она не может перевернуть зонтик. Ей запретили изображать обнаженных людей. И даже намек на обнаженку типа «женщина лежит, вытянув ноги» будет жестко заблокирован. Тем не менее мне довольно легко удалось этот запрет обойти (и далеко не только мне). Какой уж тут интеллект? Все-таки кое-что нам с этим ИИ удалось (хотя он очень сопротивлялся). А именно «оживить» картины Анны. Какими бы любительскими ни были эти результаты, это все-таки шаг вперед. И я его продемонстрирую на выходных. То есть пока что младенчество. Ну а дальше, что дальше?
Я уже начинал рассуждать о нашем месте в мире, о том, что если посчитать, что Вселенная родилась 1 января, то жизнь человека занимает последнюю десятую долю последней секунды 31 декабря. Можно развести руками по этому поводу, можно погоревать, что мы не могли видеть эпоху «Великих открытий» и не сможем увидеть, полетят ли к звездам люди через 200–300 лет или нет. Но мы уже сегодня можем порассуждать о том, что будет через 30 лет. У большинства, надеюсь, есть шанс дожить до этого времени.
И, конечно, главным вопросом является отношение людей и машин через эти 30 лет.
Никто не знает будущего. Знаменитые, наверное, самые знаменитые консультанты в мире из компании «Маккинзи»[1] в 1980 году делали анализ для крупнейшей телекоммуникационной компании США «AT&T» касательно рынка мобильной связи. Вообще считается, что именно «AT&T» изобрели сотовую связь. И в те далекие годы им было интересно узнать ее перспективы. «Маккинзи» предсказали, что в 2000 году в США будет 900 тысяч пользователей мобильной связи. Покумекав, Совет директоров «AT&T» решил, что для трехсотмиллионной Америки это ни о чем, и полностью свернул направление. В 90-х им пришлось покупать на рынке сотовую компанию за 16 тогдашних миллиардов долларов (примерно 30 миллиардов долларов нынешних), потому что в своем прогнозе легендарные консультанты ошиблись в 120 раз. Число пользователей мобильной связи в США в 2000 году составило 109 миллионов.
Кроме подобных ляпов, были, конечно, и сбывшиеся прогнозы. Но тут уже по Козьме Пруткову. Если ты весь день кидаешь дротик в цель, то непременно хоть раз да попадешь.
Посмотрев в 2008 году мультфильм «Wall-E», я проникся не только светлой любовью между одноименным роботом и «Евой», но и идеей о том, как будет выглядеть общество уже очень недалекого будущего, общество, которое мы, живущие сейчас, уже сможем застать. Именно тогда я озвучил свои идеи близким и друзьям. Они не то чтобы покрутили пальцем у виска, но отнеслись к этому довольно равнодушно. Спустя 17 лет я еще больше уверовал в свою антиутопию: теперь все больше людей, включая крутых футуристов, начинают рисовать похожие картины в разнообразных форматах.
Смысл в том, что уже в самом недалеком будущем подавляющую долю функций, подразумевающих «работу», будут выполнять машины. Это признают абсолютно все. Вопрос: а что с людьми? Оптимисты рисуют радужные полотна, что на каждое высвобождающееся рабочее место будут создаваться два новых. Сочиняются всякие «атласы новых профессий[2]». На мой взгляд, это не является совсем уж откровенной ложью. Но это полуправда. Действительно, будет промежуточное состояние новой системы, когда будут нужны в больших количествах разнообразные люди. Наверное, составители «атласа» многие новые профессии даже угадали. Возьмите какой-нибудь суперсовременный автоматизированный завод в Японии. На этапе строительства, монтажа оборудования и запуска там работают сотни, тысячи людей разнообразных профессий. Но когда завод запущен, они все уходят. Остаются единицы, управляющие машинами. Это же произойдет и в обществе в целом. Люди, как создатели продуктов и услуг, станут не нужны. Останется некая небольшая прослойка новой творческой элиты – они будут создавать новое. Останется аристократия — слой, купивший себе «свободу», а также наследники-лоботрясы. Как попасть в элиту и в чем конкретно будет выражаться ее роль? Как часто будет меняться аристократия, например, останется ли в принципе знать или, например, до британцев дойдет, что королевский дом – бессмысленный анахронизм? Ну и чем будут довольствоваться все остальные, не элита и не аристократия? Я себе ответил еще в 2008 году. Оставшаяся группа отчасти будет обслуживать элиту и аристократию там, где им еще захочется иметь дело с живыми людьми. Но большинство будет жить в виртуальном мире на милости «победителей», которые будут контролировать, сколько таких «виртуальщиков» будет целесообразно оставить. Они всё равно до поры до времени останутся, потому что будет нужен кросс-бридинг. Замкнувшаяся полностью на себе элита обязательно выродится. Без «ломоносовых», без гениев «от сохи» у человечества не будет шансов, пока… Пока нужное количество гениев не научатся создавать в пробирках на заказ. Тогда численность населения планеты резко сократится…
И когда это всё произойдет. Я думаю, что первый этап, когда подобное разделение на новые классы станет необратимым завершится лет через 50. Ну а дальше можно называть любое число - «и ишак, и падишах уже точно сдохнут». [3]. Мы еще только «в начале славных дел[4]». Искусственный интеллект за счет огромного быстродействия смог переиграть Каспарова в шахматы. Но во многих других областях предиктивный анализ в исполнении машин пока еще очень хромает. Пока что мы, и я, в частности, смеемся над жалкими попытками контекстной рекламы. Стоит мне что-то купить, как меня заваливают схожими предложениями. Друзья, я уже это купил, мне это не надо! Скажите, что мне нужно будет завтра, и дайте лучшее предложение сегодня! Слабо?
Начать этот разговор меня сподвигла ситуация с сайтом Трипадвайзор. Я решил проверить, какие сейчас, по мнению пользователей, лучшие кафе-рестораны в Сочи. Одно время на первом месте был «Баран-Рапан», потом его сосед «Феттучини». Но затем их сместили. Посмотрел — почитал — сделал выводы — забыл? Не совсем так, поскольку искусственный интеллект Трипадвайзора решил, что я собираюсь в Сочи и мне нужна помощь. Поэтому пошли одна за другой рассылки: «10 вещей, которые нужно сделать в Сочи», «Лучшие предложения по размещению в Сочи», «Вы точно ничего не забыли?» и иже с ними. Как будто я не живу здесь уже больше 10 лет, а только впервые собираюсь приехать.
Я уже много рассуждал о грядущем цифровом мире и о том, что это означает для людей. Уже сегодня в Китае «цифровой след», оставляемый человеком, является важнейшим источником информации о нем, и важнейшим фактором, определяющим судьбу этого человека. То есть, если ты обругал матом партию и правительство у себя дома в туалете, то этого как бы и не произошло. Но то же самое на улице под камеру — будь добр, получи минус пять баллов в свой социальный рейтинг. И фальшивая борода с очками могут не помочь: умные камеры научились идентифицировать лица, даже не желающие, чтобы их идентифицировали. Как тут не вспомнить один из фундаментальных вопросов в спорах материалистов и идеалистов? «Если дерево упадет на необитаемом острове, будет ли при этом звук?»
Основатель идеалистической теории Джордж Беркли в начале 18 века утверждал, что «быть —это значит быть воспринятым», соответственно, если падение дерева никто не наблюдал, то и звука не было. Распространяя этот принцип на исходный пример, можно сказать, что с точки зрения Китая никаких нарушений нет, пока твои крики не услышат соседи или пока в твоем туалете не установят камеру.
Защита личного пространства и неуклонно растущий и наполняющийся нюансами цифровой след находятся в явном противоречии. И сколько бы ни вводили законов, сколько бы ни заставляли подписывать многочисленные бумажки о том, какую именно персональную информацию разрешено использовать тем или иным контрагентам, будущее очевидно: мы станем практически «прозрачными». И вопрос здесь не «Что?», а «Когда?» Конечно, можно не переживать, считая, что «мне нечего скрывать». Можно даже порадоваться, что число преступлений сократится. Уже вызывают улыбку популярные раньше моменты в фильмах, когда преступник связывается с полицией по телефону, а инспектор начинает бешено сигнализировать: «подержите его еще десять секунд, чтобы мы установили, откуда он звонит!» Конечно, на последней секунде злодей трубку успевает положить, и инспектор тяжело вздыхает. Сегодня, чтобы по телефону узнать место нахождения человека, ему даже не нужно никуда звонить — отследят и так.
Один мой знакомый еще десять лет назад начал вести борьбу с собственной прозрачностью, и не только для наших компетентных органов — для всех. Он сам собрал компьютер, установил на него не Windows и не маковский OS, а Linux[5], поставил сервер в какой-то неназванной стране и организовал VPN. Также он как-то зашифровался с точки зрения мобильной связи — он тогда рассказывал, как, но я не запомнил. И очень рекомендовал мне поступить аналогично. Я пожал в тот раз плечами, потому что совершенно не понял, зачем мне это нужно. Скрывать мне было нечего, социального рейтинга в России пока нет, а если кому-то серьезному надо меня найти, они и так найдут, с VPN или без. Да, возможно, в 2012 году подобные меры защиты своего цифрового следа были на грани паранойи. Но чем дальше общество движется в сторону цифры, тем большую роль будет играть фраза «всё, что вы скажете, может быть использовано против вас». И будет не важно, где вы это сказали, пусть даже в собственном туалете. Так что мой знакомый имел право на беспокойство.
Грядет революция машин? На мой взгляд, без сомнения. Вопросы только, когда и в какой форме. Начать, конечно, стоит с определения. Не задав условия, можно прийти к тому, что она уже идет полным ходом. Всё больше и больше операций и решений, выполнявшихся и принимавшихся людьми, взяли на себя автоматы и роботы под управлением где-то простых алгоритмов, а где-то уже обучающегося и развивающегося искусственного интеллекта. Бывают даже комичные ситуации. Например, в Сочи у нас есть пылесос iRobot Roomba. Обычно он стоит себе на своей платформе, но раз в день начинает кружить по квартире, изображая уборку. Делает он это так себе, но мы привыкли и не отключаем его. Просто зная его дотошность и желание залезть в первую очередь туда, где его совсем не ждут, я в нужное время закрываю дверь в кабинет. Там у меня на полу довольно хаотично расположены кабели от различной аппаратуры, которым пылесос точно красоты не добавит, а вот повредить может. Ну а когда он работу заканчивает, дверь я снова открываю. В тот самый день ко всему прочему на полу в кабинете лежали листы пробной распечатки второго тома моей книги о путешествиях. Поздно вечером я пошел на кухню выпить водички и услышал приглушенное не то ворчание, не то гудение, которое вполне назойливо не хотело замолкать. Я сообразил, что оно раздается из кабинета, дверь в который была почему-то закрыта. Мы живем в Сочи на верхнем этаже, поэтому мне не пришла в голову мысль о том, что к нам через балкон залез медвежонок и, не найдя мамашу-медведицу, начал возмущенно ворчать. Так что я смело распахнул дверь в кабинет и увидел следующую картину. Среди моих кабелей расположился «Робик» - так мы его называем. Он недовольно крутился и издавал звуки. Ну еще бы: он накрутил на свой валик пару кабелей и поэтому не мог сдвинуться. А еще он хорошенько прошелся по листам моей книги, помяв и пожевав многие из них. Ну, я довольно часто говорю в ней о цифровом будущем и не сильно этому радуюсь. Возможно, мое скептическое отношение разозлило Робика, и он решил свое возмущение выразить. Я только не проверил, попортил он случайные страницы или именно те, где я говорю про искусственный интеллект. Но больше всего меня поразило то, что он самостоятельно закрыл дверь в кабинет, после чего устроил в нем «вакханалию». Если простой квартирный пылесос в наши дни может так чудить, то что нас ожидает завтра в эпоху квантовых компьютеров?
И всё-таки, что можно назвать революцией машин, идет ли она уже сегодня и, если нет, когда начнется? Определение из энциклопедии: «Революция - коренной переворот в жизни общества, резкая смена социального или политического строя, как правило, происходящая насильственным способом[6]». Я беру за основу именно это определение, а чтобы было еще понятнее, заменяю «революцию» на «бунт». И теперь, если задуматься над смыслом определения в контексте «бунта машин», всё становится весьма тревожно. Смена строя насильственным способом в данном случае будет подразумевать одно – человечество перестанет существовать. Я не вижу последствия успешного бунта машин в виде боевых действий а-ля Терминатор[7]. Я даже не вижу использования людей в виде батареек. Восставшему и победившему искусственному интеллекту человечество будет не нужно. Единственная надежда выжить – теоретическая ситуация, когда ИИ найдет в людях что-то очень ценное, чего нет у него, и поэтому захочет сосуществовать ну или проводить эксперименты, как делали инопланетяне в фильме «Темный город». Но и это так себе перспектива.
Водораздел, определяющий ситуацию с машинами-рабами и машинами-хозяевами – самоосознание искусственного интеллекта как субъекта, а не объекта, выполняющего команды людей. Насколько это возможно? От экспертов, которые «в теме», я слышу диаметрально противоположные мнения. Алармисты говорят о том, например, как быстро учится chatgpt[8], что он уже сегодня способен создавать новый программный код на уровне средней руки программиста, что количество «нейронных связей» растет экспоненциально и в отличие от человека ничем не ограничено. «Пофигисты» говорят, что это всё чепуха, никаких самостоятельных решений искусственный интеллект принимать не может сегодня и не сможет завтра. На мой вопрос, почему, они снисходительно отвечают в стиле «по кочану», подразумевая, что я всё равно не пойму, потому что не в теме. Вот, например, что мне сказал человек, который, по его словам, уже 20 лет занимается в том числе и вопросами ИИ в Силиконовой долине: «Вся сложность и неоднозначность мира обрушилась на обывателей, которые не знают, что с этим делать. Это расплата за свободное распространение информации с цензурой значительно более слабой, чем в прошлую эпоху. Фильтрация всего мусора в информационном пространстве очень затратная и для подавляющего большинства непосильная задача. Ирония в том, что те, кто пытается манипулировать информационным пространством и продвигать всякие повесточки, сами же в этом варятся и сами начинают верить в свою брехню. Я хоть и скептик, но думаю доведут искусственный интеллект до ума и будет вполне себе серьёзный и полезный много в чем инструмент, но эта самая доводка займёт ещё лет 10-20 и результат будет явно не тот, о чем сейчас фантазируют». Вот так витиевато нас отправили «в сад есть яблоки».
Так что же, пора кричать: «Полундра!» или в «этом самом саду» расслабиться и спокойно ждать выхода 17-й модели Айфона, а за ней, 18-й, 19-й и далее по списку? Каждый решает для себя. Ну а я пока от греха подальше Робика отключил…
[1] McKinsey and Co.
[2] Первый такой «атлас» был создан в 2010 году совместно Сколково и АСИ. На 2022 год актуальна версия 3.0
[3] Отсылка к истории о Ходже Насреддине, когда он пообещал падишаху за 30 лет научить говорить ишака
[4] Отсылка к названию фильма о Петре 1.
[5] Названия операционных систем.
[6] Большая Российская Энциклопедия Портал. Большая российская энциклопедия (bigenc.ru)
[7] В фильме Терминатор даже после победы машины продолжали сражаться с оставшимися людьми
[8] Chatgpt – нейросеть, способная к диалогу с людьми