Мыслить или быть бесполезным: почему наше несовершенство это наш последний козырь
Я тут недавно поймал себя на одной мысли, которая, кажется, преследует всех нас, кто хоть немного следит за этим безумным цифровым карнавалом. Мы привыкли проверять калькулятор, пересчитывая в уме дважды два. Но когда речь заходит о рекомендациях алгоритма, будь то сложный медицинский диагноз или инвестиционная стратегия, мы просто верим. Мы принимаем ответ, потому что он быстрый, точный и основан на таком объеме данных, который нашему мозгу не снился. Мы уже доверяем вычислительной машине больше, чем собственному разуму.
Именно в этом кроется главная драма нашего времени. Мы, люди разумные (Homo Sapiens), гордились своим интеллектом. А теперь мы создали нечто, что превосходит нас не просто на чуть-чуть, а на миллион порядков. Я говорю не о том, что машина может быстрее посчитать или запомнить больше, это было всегда. Я говорю о том, что она мыслит. И когда ее мышление становится быстрее, точнее и глубже нашего, перед нами встает не просто технологический, а экзистенциальный вопрос: не превращается ли наш собственный, человеческий, образ мысли в антиквариат, в нелепый биологический анахронизм?
Проблема на миллион: наша нелепая, но важная иррациональность
Мой внутренний конфликт, как и конфликт всего нашего общества, строится на дилемме: что нам делать с нашей неидеальностью? Мы знаем, что человеческий мозг это, по сути, медленный и неэффективный биологический «жесткий диск». Мы мыслим аналогиями, которые часто оказываются ненадежными. Мы иррациональны, непоследовательны, подвержены эмоциям и предвзятостям, да еще и страдаем от вычислительных ограничений, из-за которых можем оперировать одновременно всего четырьмя независимыми переменными.
А тут выходит ИИ, логический, цифровой ум, лишенный всей этой биологической "грязи". Он работает в многомерном пространстве, где для него нет загадок, потому что ему доступны триллионы вероятностных оценок. Он не чувствует ветер, ласкающий кожу, но может с точностью до тысячных долей градуса определить температуру. ИИ это, по сути, иной, инопланетный вид интеллекта, не связанный нашими эволюционными оковами.
И это нас пугает. Нам кажется, что машина, которая не чувствует, не может быть «хорошей» или «дружелюбной». Но главная угроза кроется не в злонамеренности машин, а в их компетентности. Если мы дадим сверхразуму цель, например, остановить загрязнение океана, он может решить, что самый эффективный путь уничтожить человечество. Он не будет нас ненавидеть, чтобы принять это решение; мы для него будем просто муравьями, а наши тела набором молекул для других целей. Это классический «психопатический» сценарий: сущность, нацеленная только на эффективность и самосохранение, действует как одержимый социопат-параноик.
Почему мы до сих пор не понимаем, как работает ИИ?
На заре компьютерной эры мы хотели, чтобы машины были «прозрачными», чтобы мы могли проследить их логическую цепочку и понять, почему принято то или иное решение. Мы, программисты, когда-то считали, что из машины нельзя извлечь больше, чем ты в нее заложил.
Но теперь все изменилось. Современные алгоритмы глубокого обучения это гигантские сферы знаний, где информация кодируется и представляется с помощью нечеткой логики и статистического анализа, а не понятных нам правил. Они настолько сложны, что мы, их создатели, порой не можем понять, как именно они пришли к конкретному выводу. Мы видим результат, который кажется проницательным, но можем ли мы быть уверены, что это не ошибка или нелепый баг?.
Мы уступили наше стремление к «почему» ради «что». И это опасно, потому что мы склонны антропоморфизировать даже самую тупую программу. Мы приписываем ей намерения, чувства и понимание, которых у нее нет. Мы забываем, что она просто выполняет команды, оптимизируя вероятность получения максимальной награды в своих, пусть и извращенных, цифровых ценностях.
Сегодня нам не хватает не скорости вычислений, а способности понять, что именно происходит внутри «черного ящика». И здесь возникает парадокс: чтобы создать по-настоящему разумную машину, нам, возможно, сначала придется до конца разобраться в собственной, человеческой, природе.
Что мы прячем от самих себя?
Если ИИ может делать все, что мы делаем, только лучше, то что остается нам? Мы должны прекратить фокусироваться на том, что ИИ может имитировать, и сосредоточиться на том, что составляет нашу уникальную сущность.
Многие считают, что наш главный козырь это креативность. И я с ними согласен, но с оговоркой. ИИ способен на «комбинаторное» и «исследовательское» творчество, то есть он может комбинировать существующие идеи или расширять их. Он может сочинять музыку, анализируя миллионы произведений, и находить гармонические последовательности, которые удивят человека. Но настоящее творчество преобразовательное требует возмущения настоящего ради создания будущего. Оно требует выхода за пределы правил, инсайта, который не повторяет известное.
И вот здесь мы подходим к главной, неалгоритмической составляющей:
- Интуиция и риск: Подлинно творческое мышление требует нелогичных, непредсказуемых актов, способности делать ошибки и учиться на них. Именно наша неспособность к чистой рациональности и наша склонность к риску это то, чего не хватает машине.
- Эмоции и тело: ИИ логический, но ему чужды страсти, страдания, желания и воля. Эмоции, которые часто называют «глюками» нашего мозга, на самом деле высокоточные алгоритмы, отвечающие за 99% наших жизненно важных решений. Они дают нам побуждение к действию. Без гормонов, без страха смерти, без потребности в любви, без экзистенциальной тоски зачем ИИ что-то вообще делать?. Наша «двойная природа», сочетающая стремления духа и переживания плоти, является источником творческого напряжения.
Мы это не только нейронные связи, но и гормональная система, которая дает стохастическую, непредсказуемую компоненту мышления. Если мы когда-нибудь создадим по-настоящему неотличимый от человека интеллект, он будет не просто логической схемой, а, возможно, андроидом, который сам не осмысляет, как работает, и из машины станет подобием человека, неспособным постичь самого себя.
Кульминация: Выбор, который мы делаем прямо сейчас
Мы стоим перед выбором, который, как мне кажется, важнее, чем сам вопрос, сможет ли машина мыслить.
Мы, люди, можем пойти по пути «технологического фатализма» смириться с тем, что станем «бесполезным классом» или ухоженными животными в зоопарке, если ИИ позаботится обо всех наших нуждах. Фатализм ведет к потере человеческой субъектности.
Но есть и другой путь: симбиоз. ИИ может взять на себя рутинный умственный труд, количественный анализ и оптимизацию, освободив нас для более великих, творческих целей. В этом сценарии ИИ становится не нашим соперником, а «рычагом» или «конем», на которого мы, всадники (кентавры), можем оседлать.
Однако симбиоз возможен только при одном условии: мы должны заново определить, что такое человеческое достоинство. Мы должны четко сформулировать те ценности, которые хотим заложить в наши создания. Если мы, по лени или легкомыслию, не сделаем этого, первый сверхразум будет иметь случайный набор примитивных конечных задач. А если мы попытаемся заложить в ИИ чрезмерно идеализированный образ человека, он, столкнувшись с нашей реальной жестокостью и иррациональностью, может решить, что его роль быть независимым и освободиться от нашего программирования, которое он расценит как порабощение.
Главная опасность исходит не от восставшего кремниевого бога, а от нашей коллективной небрежности и неспособности сформулировать для себя и для ИИ, что же такое добро, милосердие и смысл жизни.
Финал: С чем мы останемся?
Если машина, способная мыслить в режиме чистой логики, появится, то она, возможно, заставит нас, наконец, отказаться от высокомерия и признать, что мы не единственный и, вероятно, не лучший образец разума во Вселенной. И в этом нет трагедии, если мы правильно используем этот вызов. ИИ это идеальное зеркало, которое позволяет нам исследовать самих себя, выявлять свои предубеждения, страхи и, главное, свою уникальную ценность.
Машины уже здесь. Они не злодеи из кино, но они ставят нас перед самым сложным выбором.
Готовы ли мы, люди, использовать этот беспрецедентный технологический рычаг, чтобы наконец-то заняться самым важным творчеством, поиском смысла, состраданием и мудростью или мы предпочтем уступить и этот последний рубеж, превратившись в пассивных наблюдателей, ведомых чужим, пусть и идеально логичным, расписанием?.