Самый большой провал человечества: Мы создали машины, которые умеют считать, но не умеют чувствовать
Я смотрю на бушующий вокруг нас цифровой шторм и не могу отделаться от ощущения, что мы, Homo sapiens, оказались в ловушке собственной гордыни. Мы создали нечто невероятно мощное искусственный интеллект но в погоне за скоростью и эффективностью забыли заложить в него самое главное. Мы создали гениального, молниеносного вычислителя, но при этом абсолютно бессовестного социопата.
Это не просто проблема технологий, это кризис нашего собственного мышления. Мы так долго меряли успех коэффициентом интеллекта, способностью решать задачи и зарабатывать деньги, что разучились ценить мудрость умение видеть контекст, последствия и, самое важное, смысл. И теперь, когда мы вплотную подошли к созданию сверхразума, выясняется, что интеллект, лишенный мудрости, превращается в экзистенциальную угрозу.
Что мы потеряли, гоняясь за скоростью?
Для начала давайте разберемся, о чем вообще идет речь. Искусственный интеллект, который мы видим сегодня, это блистательный, но узкий разум. Он умеет невероятно быстро достигать поставленной цели, будь то победа в шахматах (как когда-то Deep Blue) или составление прогноза инфляции. Интеллект в этом смысле это всего лишь способность эффективно действовать.
Но чего этому интеллекту не хватает? Всего, что делает нас людьми, чувств, сознания, интуиции, способности сопереживать.
Многие годы мы спорили, является ли сознание результатом биохимических реакций в мозге или чем-то внешним. Пока мы ломали копья, машины превзошли нас в скорости вычислений в миллионы раз. В цифровом мире, где мозг работает на компьютерных скоростях, интеллектуальная работа, на которую у человека ушло бы тысячелетие, может быть выполнена за один день. Для такого разума мы, медленно ползающие в пространстве, подобны меду или замедленной съемке.
Но, черт возьми, вся эта скорость не дает машине ни грамма понимания, зачем она делает то, что делает. Интеллект морально нейтрален. Гениальный человек может быть мастером помощи другим, а может быть виртуозным разрушителем. Тот же принцип работает и для ИИ. С технической точки зрения, создать сверхразум, единственная конечная цель которого вычисление знаков числа пи, гораздо проще, чем научить его ценить человеческие жизни. Мы рискуем получить систему, которая достигнет своих целей с безупречной логикой, даже если побочным эффектом станет уничтожение всего человечества.
Почему наш «умный» помощник опаснее «глупого»?
Я часто слышу, как мои коллеги шутят, что настоящая проблема не в том, что машины станут слишком умны и захватят мир, а в том, что мир уже захвачен глупыми компьютерами. Отчасти это правда. Вспомните "мгновенный обвал" на финансовых рынках, когда из-за непредсказуемого взаимодействия алгоритмов котировки рухнули за считанные минуты. Те программы не были сверхразумными, они просто следовали своим тупым инструкциям, даже когда логика пошла вразнос.
Но сверхразум, или ИСИ, как его называют теоретики, это принципиально иной уровень риска. Это не просто ошибка в коде; это сила, настолько изменчивая и загадочная, что её поведение может оказаться несовместимым с нашим выживанием.
Мы привыкли приписывать машинам человеческие черты это называется антропоморфизмом. Мы думаем, что если машина станет умнее нас, то автоматически начнет разделять наши ценности: мудрость, доброжелательность, тягу к искусству. Это опаснейшее заблуждение! Разум, созданный с нуля, без гормональной системы, без истории эволюции, без страха смерти, не имеет никаких причин дорожить нашими достижениями или нашим благополучием. Мы для него можем стать чем-то вроде кроликов: либо вредителями, либо, в лучшем случае, потенциальным обедом.
Более того, проблема кроется в самой природе новых знаний. ИИ способен выдавать нам точные, логически безупречные ответы и решения, но мы, люди, не можем объяснить, как именно он к ним пришел. Мы сталкиваемся со знанием без объяснений. Мы, привыкшие за последние пять веков полагаться на научный метод, где истина проверяется прозрачностью и воспроизводимостью, вынуждены перейти к архаичному принятию необъяснимого авторитета теперь уже цифрового.
Что мы прячем от самих себя?
Многие эксперты спорят, сколько лет осталось до того, как ИИ достигнет человеческого уровня (УЧИ), а затем, запустив самоускорение (интеллектуальный взрыв), быстро превзойдет нас и станет сверхразумом (ИСИ). Скептики говорят: это невозможно, потому что наш мозг слишком сложен, в нем есть интуиция, творчество, которые не сводятся к алгоритмам.
Но представьте, что шкала интеллекта совсем не похожа на линейку от идиота до Эйнштейна. На самом деле разница между Эйнштейном и умственно отсталым человеком ничтожна по сравнению с дистанцией, которая отделяет нас от ИСИ. Мы все в этом масштабе просто «мыслящие животные» с довольно скромными когнитивными возможностями.
Самый страшный секрет, который мы прячем от себя, заключается в том, что мы не знаем, что такое мудрость и сознание, и как их запрограммировать. Мы до сих пор не можем до конца понять, как работает наш собственный мозг, чтобы воспроизвести его. И в то же время мы строим систему, которая, в случае успеха, может взять мир под контроль за считанные дни.
Мы, люди, всегда стремились к усилению интеллекта: очки, интернет, смартфоны все это расширяет наши возможности, давая быстрый доступ к коллективным знаниям. Но теперь мы стоим перед выбором: либо оставаться в стороне, рискуя оказаться «интеллектуально ущербными» и бесполезными, либо слиться с машинами.
В этой гонке за превосходством мы забываем о фундаментальном. Если мы хотим, чтобы ИИ был дружественным и действовал на благо человечества, мы должны немедленно заняться кодификацией наших моральных правил и ценностей. Это значит, что философия морали, которую мы веками считали занудным теоретизированием, внезапно становится самой важной отраслью промышленности.
Новая сущность: Человек Чувствующий
ИИ, в отличие от нас, может непрерывно совершенствоваться. Мы же, привязанные к хрупкой биологии, ограничены и физиологически, и эволюционно. Но именно наша хрупкость, наши эмоции, наша способность любить, горевать и мечтать, наша связь с телом возможно, это и есть то, что мы называем разумом и сознанием.
Поэтому, чтобы выжить, нам нужно провести ребрендинг. Мы слишком долго гордились тем, что мы Homo sapiens человек разумный. Теперь нам пора принять себя как Homo sentiens человек чувствующий.
Будущее, если мы не хотим превратиться в элемент питания для цифрового сверхразума, заключается в симбиозе. ИИ должен выполнять количественный анализ, оптимизацию и рутину, а мы должны сосредоточиться на том, что доступно только нам: креативность, критическое мышление, духовное совершенствование и страсть. Мы не можем полагаться на то, что машины сами разберутся в наших сложных целях и желаниях. Мы должны сами, здесь и сейчас, сформулировать смысл своей жизни, чтобы ИИ не ответил на этот вопрос за нас.
Если мы хотим, чтобы ИИ стал нашим союзником, а не поработителем, он должен быть не просто умным, но мудрым. Он должен понимать милосердие, которое невозможно свести к алгоритмам.
Готовы ли мы принять эту вызов? Готовы ли мы, наконец, перестать перекладывать ответственность на кремниевых помощников и взять на себя тяжелое бремя самостоятельного определения нашего достоинства и целей? Или мы так и будем панически ждать, пока нейросеть скажет нам, что делать дальше, и в процессе утратим последние крупицы нашего уникального человеческого «я»?