Культовый профессор психологии Александр Асмолов исследует природу искусственного интеллекта и приходит к выводу, комплиментарному для ИИ. Человек в близком будущем, судя по всему, тоже не безнадежен, но ему придется побороться, ибо зря этот человек думает, что его разум на планете превыше всего.
Каждый раз, когда я сталкиваюсь с опасениями об ужасах искусственного интеллекта, за которыми стоит искреннее удивление: неужели появится разум, который вытеснит человека, неужели вдруг человечество исчезнет, я вспоминаю замечательную повесть Клиффорда Саймака «Город». Уникальный фантаст, он начинает свое произведение со слов: «Я хочу рассказать вам о том, о чем рассказывают псы, когда они собираются у камина. Они говорят, что когда-то на этой планете было уникальное существо — оно называлось “человек”. И даже была подобного рода цивилизация».
Пафос повести состоит в том, что из всех претендентов на мир разума мы — только одни из многих. И, когда мы задумываемся о том, что где-то там, далеко на Марсе, на Венере или вообще там, где Млечный Путь, живут другие разумы, надо четко понимать — множество других разумов живет и здесь, рядом с нами. Понимание разума имеет огромное количество критериев, без которых трудно отрефлексировать, что рядом с нами сосуществует несколько цивилизаций, языков которых мы не знаем.
У Конрада Лоренца, известного зоопсихолога, лауреата Нобелевской премии, была книга «Кольцо царя Соломона», в которой он говорил, что царь Соломон, когда надевал кольцо, начинал слышать и понимать другие существа этой планеты. Я вспоминаю об этом неслучайно. Мы находимся под странным эгоистическим гипнозом, что только мы наилучшие, чемпионы по разуму на этой планете и других не может быть, потому что, как в чеховском рассказе, «на Солнце есть черные пятнушки. Этого не может быть, потому что этого не может быть никогда».
Тут, наверное, прежде всего хотелось бы сказать о том, что страхи, касающиеся появления другого разума, существовали давно и за ними стоит великое непонимание двух вещей, о которых я говорю последнее время. Первое: чем больше мы прорываемся в моделирование других форм разума, тем больше мы открываем человеческое в человеке. И для меня всегда, когда я это говорю, Дон Кихот является символом человеческого в человеке, в том числе и его Санчо Панса.
Второй момент: человечество всегда очень много творило, каждый раз не видя разницы между тем, что оно творит, и тем, что оно натворило. Когда-то человечество натворило Голема, и в образе этого глиняного человека, описанного во многих блестящих произведениях, мы видели, как сотворенное нами начинало пугать. Мы приписывали ему в буквальном смысле магические характеристики, мы настолько пугались, что путали две вещи: идолов и идеалы. Идеал создания той или иной модели развития мы превращали в идола, которого сами потом и начинали бояться. Особенно мы боялись, если появлялись такие творения, как Франкенштейн. Когда мы создаем те или иные явления, невероятно важно чувствовать диссонанс и разрыв между тем, что мы хотим сотворить, и тем, что мы натворили. Неслучайно для меня значимо при обсуждении всех этих вопросов явление, которое иногда называют синдромом Оппенгеймера—Сахарова. Оба натворили очень много: один, благодаря Манхэттенскому проекту, создал атомную бомбу, другой считается отцом водородной бомбы. А потом оба резко выступили как человеки и сказали, что мы натворили такую технологию, которая вышла из подчинения в нашем понимании. После взрыва на Чернобыльской АЭС бытовало такое выражение: «Нас вся Европа кроет матом за этот мирный атом».
И если мы говорим об искусственном интеллекте как об опасности, мы опять становимся заложниками дискуссии, за которой стоит бездонное непонимание природы самого человека, это первое. Второе — сведение человека к роботу (я лишь напомню, что понятие «робот» принадлежит Карелу Чапеку и является результатом блистательного воображения блистательного писателя и филолога). Так вот, когда мы начинаем обсуждать понятия «человек» и «робот», «человек» и «искусственный интеллект», то сталкиваемся со следующим вопросом: когда мы теряем так называемый техно-гуманитарный баланс и начинаем разрабатывать технологии ради технологий — это все становится бессмысленным. Технологии всегда разрабатываются под смысл — нам не нужны технологии сами по себе. И каждый раз рефлексия о смысле и ценности технологий для человека — вещь невероятно важная. Это же прекрасно, если мы разрабатываем технологии, чтобы усилить мощность человека, чтобы найти помощников, партнеров, и, вперед забегая, скажу слово, которое никогда не использовалось, — талантливых питомцев, которых мы порождаем своим разумом. Но, когда люди этого не понимают, любые действия тех или иных систем воспринимаются через позицию луддитов, что искусственный интеллект лишит всех работы, что искусственный интеллект будет править миром.
И все эти мифологемы искусно используются с давних времен разными противниками любых инноваций.
Ведь кто-то изобрел колесо. И когда мы вспоминаем, сколько погибло под колесами людей — автомобильными или когда его использовали фараоны в своих колесницах для битв… В этом виновно колесо? -Когда-то был изобретен станок Гутенберга, и огромное количество монахов-летописцев осталось без работы. В этом виновен станок Гутенберга? Или в этом виновато наше неумение прогнозировать -последствия и незнание, как действовать?
Самая серьезная ошибка людей заключается в том, что они не всегда понимают простую закономерность: каковы наши ценности по отношению к технологиям, таковы и последствия использования технологий. Именно поэтому, выступая недавно перед коллегами из «Сбера», я привел следующий пример: на одном рисунке технология, которая называется «собака Баскервилей», на другом — «лабрадор-поводырь». И в том и в другом случае другой разум прошел очень серьезную подготовку. Но ради чего использовался этот разум? Ради чего использовался атом? Ради чего используется искусственный интеллект? Ради водородной бомбы? Ради того, чтобы создать мощную собаку Баскервилей, уничтожающую других? Или же он используется для того, чтобы создать культурное орудие? Ведь, как говорил мой любимый психолог Лев Семенович Выготский, «культурное орудие — инструмент овладения своим поведением».
Выбор пути прежде всего зависит от образа ценностного будущего, которое так или иначе есть у любой мощной системы, будь то государство или банк. Это и определяет смыслы. А смыслы определяют образ будущего. У «Сбера» есть образ будущего, идея человекоцентричности, которая сначала вызвала шок. Я говорю про эту идею так: «Банк идет ва-банк». Это значит, что любые инструменты, которые используются, в том числе искусственный интеллект, — это питомцы, позволяющие увеличить мощность и возможности человеческого разума. И вот в этом случае мы говорим о партнерстве, социальном партнерстве с искусственным интеллектом.
Сегодня ряд моих финских коллег пишут целый цикл работ «Социальное партнерство с искусственным интеллектом». Согласитесь, это совершенно другая постановка вопроса, которая не вызывает тревоги или опасений за будущее. Как только мы понимаем, что любой искусственный интеллект — это культурный инструмент овладения нашим поведением, мы оказываемся в ситуации, когда он нам в помощь. В ситуации, когда ради развития потенциала человека мы доращиваем наши мощности искусственным интеллектом. И это закономерно, так как в процессе эволюции мы все время достраиваемся: очками, телескопом, а сейчас — искусственным интеллектом. Мы становимся намного шире, чем наш организм, и это очень важно понимать. Как только тот или иной родитель говорит современному ребенку: «Хватит пользоваться гаджетами!», он забывает, что, в отличие от нас, мигрантов в мире цифрового разума, наши дети — аборигены и они уже достроены гаджетами. И отнять у ребенка гаджет — это как отнять часть его тела. У него возникает фантом, аналогичный тому, который появляется при ампутации руки. Для детей это тяжелейшая трагедия, потому что наши дети — люди мира цифровой социализации, люди достроенные. И когда родители начинают пугаться интернет-зависимости, они не понимают, что проблема в другом. Проблема в том, интересен ли родитель для своих детей.
Те, кто хочет не пугаться конфликта отцов и детей, а в нашем случае — конфликта человечества с искусственным интеллектом, должны понять для себя главное: вопрос не в искусственном интеллекте, а в том, в чьих руках он окажется. Могут ли быть деструктивные риски для человечества от искусственного интеллекта, к примеру такие же, как от ядерной, водородной бомбы или от колеса? Могут ли многие люди оказаться без работы, как это было во времена станка Гутенберга? Или наоборот — им будет предложена более творческая работа, а рутина будет передана помощникам или питомцам?
Все эти вопросы будут тревожить людей, пока не будут четко зафиксированы смыслы. Например, «Сбер» идет по пути человекоцентричности и обсуждает это именно потому, что настал момент, когда просто необходимо отрефлексировать, ради чего огромная индустрия все больше погружается в мир искусственного интеллекта. Надо сказать, что погружение произойдет в любом случае — не существует сил, которые бы сказали нет техническому прогрессу. Но ради чего? И в этой парадигме для меня существует две книги: одна — «Сумма технологии» Станислава Лема, другая — «Сумма теологии» Фомы Аквинского. Лично для меня искусственный интеллект — это символ гуманитарного развития, пути, по которому шло человечество, и символ технологического развития.
История знает разные пути культурного развития. Некоторые страны пошли по пути модернизации — мы, например, с петровских времен модернизируемся. Западный мир, мир Возрождения, пошел по пути реформации, и это совершенно другое. Один из гениальных мастеров Ренессанса, Леонардо да Винчи, оказался в кружке, который привел Флоренцию, как говорил замечательный филолог Леонид Баткин, к созданию особого слоя людей — интеллигенции, людей, способных к гуманистике. Еще тогда да Винчи разработал своего знаменитого витрувианского человека — символ соразмерности наших действий. Сейчас нам тоже необходимо нечто подобное — антропологический дизайн нашего разума, учитывающий современные реалии и наращивание мощности человека искусственным интеллектом. И вот этим как раз и занимается «Сбер». Потому что нелепая формула «Клиент всегда прав» уже неактуальна — всегда прав только идиот! Сейчас в центр становится человек, и как ни парадоксально, но в итоге выигрывают те системы, которые делают ставки на доверие и взаимопонимание между людьми.
Разработанные мной подходы и метафоры — это не просто образы. Это конструирование реальности. Как мы помним, в основе когнитивной революции, без которой не было бы искусственного интеллекта, лежала компьютерная метафора «Человек есть устройство по переработке и извлечению информации». Эта компьютерная метафора глубоко частична. Все дело в том, что, как говорил психолог и мой учитель Алексей Николаевич Леонтьев, «самое страшное, что мы, создавая искусственные системы, вдруг забываем, что мы их создали, и начинаем учиться у искусственного интеллекта уму-разуму». Это блистательная формула, и это самая большая опасность. Мы вдруг ложимся под то, что мы с вами сделали. В этой связи вспоминаются строки великого Микеланджело:
«У каждой эры новые химеры.
За будущее чувствую стыд,
И думаю, что новая, совсем иная вера
Опять всего святого нас лишит».
Поэтому, когда мы начинаем верить, что созданная нами система сильнее человека… Ну разве в этом виновен искусственный интеллект? В этом виновны те образы и модели, которые мы создаем. Думаю, что искусственный интеллект вызывал бы меньше страхов, если бы мы термин artificial переводили на русский как «рукотворный», а не как «искусственный».
Лично у меня больше опасений вызывает технократический разум, которым обладают люди, принимающие решения. Когда в мире сложностей вы принимаете упрощенное решение, это ведет к ужасным последствиям. Как говорил замечательный методолог Георгий Петрович Щедровицкий, «простые ответы на сложные вопросы — путь к фашизму». В развитии всегда решается вопрос, быть многим или обладать многим. Беды не в искусственном интеллекте, а в технократическом разуме — раз — и в цивилизации статуса — два. Когда один руководитель мерит другого по тому, есть ли у него ключ от собственного туалета, вот здесь начинается расчеловечивание. То есть ключевые риски человечества не в искусственном интеллекте, а в упрощении мира. Когда «Сбер» выбирает человекоцентричность, это означает, что «Сбер» освобождается от упрощенного подхода к миру и таким образом создает мир будущего.
Если посмотреть глобально, в итоге в борьбе за первенство выигрывают те страны, которые уходят от принятия упрощенных решений. Когда мы только начинали сотрудничество со «Сбером», я представил им свой доклад, который назывался «Какие организации способны удивить и восхитить мир». А подзаголовок был «Почему китайцы влюбились в фантастику». Китай — это же другой разум, но разум, который все время нервничает из-за европейского разума.
В 2007 году писатель-фантаст Нил Гейман побывал в Китае на конвенте по научной фантастике и фэнтези. В какой-то момент он спросил у официального представителя властей, почему такое мероприятие вообще стало возможно, если научная фантастика не одобрялась в Китае долгое время. На что представитель Китая ответил: «Если китайцам приносили схемы, они создавали великолепные вещи. Но они ничего не улучшали и не придумывали сами. Они не изобретали. И поэтому мы послали делегацию в США, в Apple, Microsoft, Google, и расспросили людей, которые придумывали будущее, о них самих. И обнаружили, что самые большие умы, те, кто творил прогресс, читали научную фантастику, когда были мальчиками и девочками».
То есть 14— и 15-летние подростки, которые в будущем стали молодыми лидерами ведущих компаний, обожали Брэдбери, Азимова, Саймака и других писателей-фантастов. Они влюблялись в «Вино из одуванчиков», они смотрели «Звездные войны», они ныряли в совершенно другие миры. И после этого китайские коллеги вложили бешеные миллиарды долларов в поддержку фантастики и писателей-фантастов, создали Долины фантастики. Вот с этого момента в Китае начался другой путь развития.
Чтобы совершать прорывы, необходимо делать ставку на воображение! Если учесть, что все наши решения основаны на прошлом опыте, а живем мы в мире, о котором Виктор Черномырдин говорил: «Никогда не было — и вот опять», только воображение может вытолкнуть нас вперед и вверх. Воображение не сводится к прошлому опыту, а за любыми моделями искусственного интеллекта стоит диктатура прошлого.
Недавно у американского лингвиста Ноама Хомского, без преувеличения великого мыслителя, спросили в интервью, почему он не подписал петицию против ИИ, которую подписали Маск и многие другие интеллигенты. И он ответил: «Я не подписал, потому что не про то они все говорят. Я не подписал, потому что главное — развивать критическое мышление, развивать человека. А не бояться того, что создал человек».
И это правильно, потому что заниматься надо человеком, вкладываться необходимо в образование, в развитие и понимание человека, который принципиально непрограммируемое существо. Вслед за Юрием Михайловичем Лотманом я утверждаю: ключевой код человека — это код непредсказуемости. И в этом смысле нечего опасаться. Не найдете вы искусственного интеллекта, который написал бы во время Болдинской осени великие вещи, воскликнув в конце: «Ай да Пушкин, ай да сукин сын!» Этого не может произойти с искусственным интеллектом. Искусственный интеллект при всех его современных возможностях творит невероятное. Он создает то, что мы не можем прогнозировать, но он всегда рождает из комбинаций. Человек же рождает из таких глубин бессознательного и интуиции, с которой связана уникальная сфера творчества, что никакому искусственному интеллекту и не снилось. И поэтому я всегда с юмором говорю: сон разума рождает чудовищ, а бессонница — новые технологии.
Колонка опубликована в журнале "Русский пионер" №118. Все точки распространения в разделе "Журнальный киоск".