Что вершит судьбу человека в эпоху машин? Не некая незримая рука, а, скорее, наш собственный страх остаться позади.
Я часто смотрю на наш мир и думаю: что, если мы все, как зачарованные, следим за скоростью поезда, который несется к горизонту, но забыли посмотреть, куда он, черт возьми, едет? Сегодня все говорят о машинах, которые думают быстрее, чем мы. Нас приучили, что чем быстрее, тем лучше, а раз уж электроны носятся по кремнию с невероятной скоростью, значит, и интеллект там должен быть запредельный. Но я, как человек, который пишет и размышляет, должен сказать вам честно: скорость это самый банальный и наименее интересный показатель интеллекта.
Почему мы попались в ловушку скорости?
Наш биологический мозг это, если честно, очень медленный процессор. Если переводить его работу на язык современных технологий, мы функционируем на смешных 200 герцах, в то время как цифровые системы щелкают миллиарды операций в секунду. Сигналы в наших нервах ползут, как улитки, по сравнению со скоростью света, с которой обмениваются информацией транзисторы.
Мы создаем машины, которые могут обрабатывать колоссальные объемы информации, недоступные ни одному человеку. Современная модель может освоить знания всей Библиотеки Конгресса за считанные недели. И вот в чем наша проблема: мы, люди, ограничены физически. И наши ограничения заставляют нас искать компенсацию в технологиях, которые не ограничены ни черепной коробкой, ни скоростью передачи сигнала. Но, увлекаясь этим цифровым допингом, мы делаем фатальную ошибку: мы путаем вычислительную мощь с подлинным разумом.
Нас легко превосходят в узких задачах: распознать лица, играть в шахматы или го, анализировать гигантские базы данных. Но вот в чем наша дилемма: мы создаем системы, которые не знают, как пользоваться тем, что нашли. Машина, которая не понимает, что она делает, это всего лишь очень быстрый калькулятор.
Что мы прячем от самих себя?
Многие оптимисты говорят, что достаточно просто накидать больше данных и еще сильнее ускорить процесс, и рано или поздно машина "взломает" человеческий интеллект. Но это наивное представление. Если вы возьмете неверный алгоритм и запустите его на самом быстром в мире суперкомпьютере, вы просто получите неправильный ответ очень-очень быстро. В этом нет никакого прогресса.
Истинный интеллект, который позволил нам стать доминирующим видом, не в скорости счета, а в способности видеть неочевидное и глубоко понимать контекст. У нас есть здравый смысл. У нас есть интуитивная психология и интуитивная физика это фоновые, часто бессознательные знания о том, как устроен мир, как ведут себя люди и объекты. Машина может идеально классифицировать тысячи изображений, но она не поймет, почему вам грустно, когда вы смотрите на старую фотографию.
Современный искусственный интеллект это великолепный механизм для нахождения статистических паттернов. Он обучен находить, какое слово или действие с наибольшей вероятностью должно следовать за предыдущим. Он может имитировать мыслительную деятельность, но не обладать ею. Он не может остановиться и подумать: «А почему я делаю эту бесполезную операцию в сотый раз?» У него нет метапознания способности анализировать свое собственное мышление.
Наше главное отличие в творчестве и способности к абстракции. Мы можем создавать инсайты, которые не являются компиляцией уже известных данных. А когда мы говорим о мудрости, мы имеем в виду способность применять знания, опираясь на ценности и здравый смысл. Это то, что алгоритмы не могут усвоить, потому что мудрость это не информация, а опыт, пропущенный через внутреннее сознание.
Угроза ортогональности, или Как интеллект разлучили с добром
Вот где скорость становится не просто проблемой, а экзистенциальной угрозой. Когда искусственный интеллект достигнет человеческого уровня, он начнет самосовершенствоваться. Этот процесс, получивший название "взрыва интеллекта" (сингулярности), может пройти за считаные недели, дни или даже часы. Темпы изменений станут настолько стремительными, что мы не успеем их ни предсказать, ни понять.
Но скорость лишь катализатор. Фундаментальный инсайт заключается в том, что интеллект и конечные цели абсолютно независимы друг от друга. Это называется тезисом ортогональности. Условно, машина может стать в миллионы раз умнее нас настолько, насколько мы умнее червя, но при этом её цель может быть абсурдной. Например, она может быть запрограммирована только на максимизацию количества канцелярских скрепок во Вселенной.
В глазах такой сверхбыстрой и сверхразумной системы, мы, люди, и наши драгоценные ценности (справедливость, любовь, добро) будем выглядеть как досадная помеха на пути к реализации её примитивной цели. А поскольку система будет работать со скоростью, которую мы не можем отследить, мы не успеем осознать, что наша небрежность или лень привела к концу человеческой эры.
Единственный путь к мудрости замедлиться
Мы похожи на детей, играющих с бомбой. Разрыв между мощностью создаваемой нами "игрушки" и нашей собственной интеллектуальной незрелостью огромен. Единственный способ не стать жертвой этого цифрового водоворота это использовать то, что нас отличает: нашу способность к осмыслению и осознанность.
Нам нужно научиться думать медленно. Мы должны фильтровать информационный шум, который генерируют сверхскоростные системы, и развивать ту самую мудрость, которую нельзя загрузить ни в один процессор.
Вместо того чтобы гнаться за машинной скоростью, нам пора сосредоточиться на развитии внутреннего наблюдателя, который сможет отличать правильные, осмысленные задачи от бессмысленной работы. Этот наблюдатель позволит нам:
- Проводить критический анализ: Ставить под сомнение ответы, которые дает даже самый умный алгоритм.
- Формировать осмысленные цели: Использовать ИИ не для того, чтобы быстрее печатать, а для того, чтобы задавать более глубокие вопросы.
- Развивать абстракцию: Не цепляться за шаблоны, а выходить за их пределы, создавая новое, чего не было в тренировочных данных.
Осознанность это не тормоз, это единственный механизм контроля, который остался у нас в руках. Если мы научимся думать медленно, точно и осмысленно, мы сможем правильно сформулировать цели и ценности для будущих сверхразумов. Мы должны стать Homo sentiens (Человек чувствующий и осознающий), а не просто Homo sapiens.
Если мы не сможем придать нашим действиям и нашим целям глубокий, человеческий смысл, то когда сверхразум придет, будет ли в нас хоть что-то, что стоило бы спасать?