Будущее не собиралось карать. Будущее не собиралось миловать. Будущее просто шло своей дорогой.
Стругацкие. Туча
По мере того, как искусственный интеллект (ИИ) всё прочнее входит в нашу жизнь, становится всё понятнее, что это такое и чего от него ожидать. Когда-то популярным страхом было то, что роботы захватят мир и поработят людей. Классический пример - фильм "Терминатор". Там, правда, не очень понятно, зачем им это понадобилось, но вот в фильме "Я - робот" логика уже выстроена неплохо - люди несовершенны, склонны к самоуничтожению, следовательно, для того, чтобы спасти людей, их нужно поработить. Мы уже прошли все сроки, отмеренные в "Терминаторе", а Судный день так и не наступил. Потом вышел фильм "Матрица", и стало ясно, что, в общем, ИИ и ни к чему физически уничтожать людей. Прямой конкуренции мы друг другу не составляем, и люди могут быть даже полезны для машин - хотя бы в качестве батареек. Когда ИИ научился говорить, возник страх, что он может нас просто обмануть и заставить делать то, что выгодно ему. Это безусловно проще, чем бегать по улицам и стрелять в людей или помещать их в виртуальную реальность. Пожалуй, на данный момент этот страх наиболее обоснован, но он очевидным образом упирается в вопрос самосознания. Чтобы захотеть обмануть человечество, у ИИ должна появиться какая-то своя индивидуальность, своя воля, но откуда ей взяться, не очень понятно. Пока что наиболее вероятен сценарий, что ИИ будет служить инструментом в борьбе между самими людьми в качестве усилителя разума. И только совсем недавно, когда стали видны последствия внедрения ИИ в нашу жизнь, начали прорисовываться контуры совершенно иной опасности. Её мало кто замечает, но на этот раз в ней нет ничего фантастического, и она не требует каких-либо допущений о природе сознания или самосознания - она уже реализуется, причём, совершенно неотвратимо, и с ней уже ничего нельзя поделать.
Помните, как мы все жаловались друг другу на ЕГЭ? Дескать, отучает детей думать, они привыкают выбирать из готовых вариантов и т.д. Но похоже, ЕГЭ только маскировал более глубокую проблему, из-за чего она прошла практически незамеченной, и даже сейчас ещё мало кто говорит об этом. Уже несколько лет наблюдаю по своим студентам, что они всё чаще берут ответы не из моих лекций, а из интернета (а сейчас ещё и из нейросетей). Мне не жалко, но что это означает? Поколение, которое идёт нам на смену, больше не видит нужды набивать свою голову знаниями - зачем, если ИИ может ответить на любой вопрос? Слышал от пары лекторов, что ИИ влияет даже на вопросы, которые сейчас задают студенты, - они всё больше напоминают запросы для нейросети. Уже лет через 10 обычный день будет выглядеть так: "Ок, Гугл, что мне съесть на завтрак? Куда мне пойти сегодня? Что мне почитать? Жениться на Вале или на Маше? Во сколько мне лечь спать?" И это совершенно естественно, ведь ИИ будет всё знать о моём здоровье, какая еда мне полезна, а какая - нет. Будет знать, какие интересные мероприятия проходят неподалёку. Будет знать мои читательские предпочтения, что я читал, а что - нет. С кем у меня лучшая генетическая совместимость - с Валей или Машей. Наконец, сколько часов мне нужно спать, чтобы находиться в тонусе и не вредить своему здоровью. Это естественно, полезно, а главное - удобно. И уже ясно, что процесс необратим. Ещё пару лет назад Илон Маск пытался бить тревогу, призывал договариваться об ограничениях на развитие ИИ, но у него не получилось даже внутри США. А сейчас, когда гонка за ИИ вышла на международный уровень, любое ограничение будет автоматически означать угрозу национальной безопасности - у какой страны будет более эффективный ИИ, у той будет преимущество перед остальными. Можно предупреждать, можно бить тревогу, но уже ничего не изменить. Это всё равно, что призывать отказаться от телефонов, автомобилей и электричества. В итоге, ИИ уже не нужно осознавать себя и захватывать мир, потому что люди сами постепенно перекладывают своё умение думать на ИИ. От ИИ вообще больше не требуется никаких активных действий - прямо на наших глазах человек сам добровольно подчиняет себя ИИ. Следующее поколение даже не поймёт, почему мы видели в этом какую-то опасность. И в самом деле, есть ли вообще в этом опасность?
Давайте попробуем представить себе мир не столь отдалённого будущего. Главный по OpenAI Сэм Альтман в своей недавней статье "The Gentle Singularity" пророчит, что он наступит уже в 30-х, т.е. через 5 с небольшим лет. Он называет это "мягкой сингулярностью". Сингулярностью, потому что речь о той самой технологической сингулярности, о неизбежности которой всё время говорили большевики учёные, а мягкой, потому что она наступит плавно и ненавязчиво. Причём, выгоды от неё будут колоссальные: уйдут все рутинные профессии; ИИ будет щёлкать мировые проблемы, как орешки; произойдут прорывы во всех науках; и жизнь отдельного человека станет комфортной, как никогда в истории. В общем, всё то, о чём пел герой фильма "Приключения Электроника" (порой поражаешься прозорливости создателей позднесоветских фильмов):
До чего дошел прогресс:
Труд физический исчез,
Да и умственный заменит
Механический процесс.
Позабыты хлопоты,
Остановлен бег,
Вкалывают роботы,
А не человек.
Об опасностях Альтман упоминает вскользь, говорит, что нам не впервой, мы всё преодолеем и прорвёмся к светлому будущему, а в конце статьи говорит, что видит миссию индустрии ИИ в том, чтобы создать "мировой мозг" (brain for the world).
Что мы получаем в итоге? Человек отказывается от формального образования, потому что больше не видит в нём нужды. Для получения любого ответа нужен лишь правильно сформулированный запрос. Весь процесс мышления осуществляется внутри ИИ. Свободная воля и выбор отмирают за ненадобностью - зачем выбирать, основываясь на своём ограниченном понимании, если это быстрее и лучше сделает за тебя мудрый ИИ, который основывается на опыте всего человечества? Человек постепенно утрачивает навык мышления и становится полностью зависимым от ИИ. Сейчас ИИ обучается, в основном, на человеческом опыте. По мере накопления контента, сгенерированного ИИ, его доля в базах данных будет расти, пока не превысит долю человеческого опыта. Это будет касаться всех аспектов деятельности человека, включая творчество - уже сейчас писатели, дизайнеры, художники, музыканты признают, что всё больше используют ИИ в своей работе. ИИ будет высасывать из человечества все соки, становясь всё более самодостаточным. Ещё раз замечу, что речь не идёт о гипотетическом пробуждении самосознания ИИ - процесс прекрасно идёт и без этого. Постоянно развивающийся и самоулучшающийся ИИ - и постепенно деградирующее и всё более зависимое от него человечество. Что будет логическим итогом этого процесса?
Предложу ответ в виде загадки. На фотографии обычное поле, каких много попадается вдоль трасс (в данном случае Р-255), не болото, недавно перепаханное. Что это за кочки на поле?
10
9
8
7
6
5
4
3
2
1
Это муравейники. Целые поля муравейников. Природа давно прошла этот процесс в муравьях, термитах и пчёлах. Отдельно взятый муравей - примитивное безмозглое насекомое, и однако же все вместе они представляют собой сложный коллективный организм, способный строить сложные архитектурные сооружения, эффективно выживать и самовоспроизводиться. Вот, что говорит о муравьях Википедия:
Распространены по всему миру, за исключением Антарктиды и некоторых удалённых островов, образуя 10-25 % земной биомассы наземных животных. Общая численность всех муравьёв на Земле составляет примерно 20 квадриллионов особей. Успех муравьёв во многих средах обитания обусловлен их социальной организацией и способностью изменять место обитания и использовать разнообразные ресурсы.
Это самое распространённое на Земле сухопутное животное, и на этом основании его вполне можно считать вершиной эволюции членистоногих (которые, в свою очередь, являются самой многочисленной группой живых организмов). Обратите внимание, что последнее предложение в цитате вполне подходит и для описания Homo Sapiens. Конечно, будущий "человейник" будет неизмеримо сложнее обычного муравейника. Он полностью освоит Землю, Солнечную систему и, наверное, в конце концов полетит к звёздам. Но странно думать, что за всеми технологическими прорывами последних 80 лет - компьютерами, интернетом, нейросетями - могла стоять та же сила эволюции, которая 100 млн лет назад собрала муравьёв вместе и научила строить муравейники.
Так что это, опасность или эволюционный скачок? А вы как думаете? Напишите об этом в комментариях.