Мы так долго искали Бога, чтобы понять, кто мы, и так долго строили цивилизацию, чтобы стать свободными, что совершенно не заметили, как обменяли душу на удобство, а свободу — на алгоритм. Проблема не в том, что скоро появятся злые роботы-убийцы, как в голливудских страшилках. Кризис куда глубже: он в том, что сам Homo sapiens постепенно перестает существовать, уступая место чему-то новому, но, кажется, бесконечно пустому. Если раньше мы, люди, казались себе венцом творения, то теперь все больше становимся лишь пережитком прошлого, который сам себя списал со счетов.
Мы живем в уникальное время, когда технологии уже здесь, но их последствия еще не проявились в полной мере. Мы стоим на пороге величайшего перелома в истории познания, который одни называют «сингулярностью», а другие — началом конца. Но, чтобы понять, куда мы идем, нужно разобраться, когда же именно мы свернули не туда.
Homo commodum — ступень в никуда
Мы привыкли думать, что человек, по определению, уникален, но вся наша история доказывает, что мы, как вид, всегда искали способ жить «наименьшим сопротивлением». В этом, видимо, и кроется главная ошибка, потому что Homo sapiens превратился в Homo commodum, человека удобного.
Старая модель, нацеленная на материальное благополучие, обанкротилась. Нам казалось, что если мы достигнем финансового достатка, то все остальные проблемы решатся сами, но их стало только больше, и старыми средствами они не решаются. Фактически, мы ошибочно полагали, что достаточно построить материальное благополучие, и прочее приложится.
Нефтяной век с его нескончаемой энергией и бесконтрольным потреблением стал для нас тупиковой ступенью эволюции. Мы жаждали удобств и получили их, но заплатили за это ослаблением и частичной психоэмоциональной деградацией. Мы променяли развитие, которое всегда сопровождается болью и потерями, на комфорт и сладкие радости жизни, став легкой мишенью для управления. Человек удобный принимает практически всё — даже потребление в пищу частей собственных эмбрионов и утопление планеты в неразлагаемом пластиковом мусоре, полученном из токсичного трупного яда, который мы называем «ископаемым топливом». Это была наша первая, самая, казалось бы, безобидная капитуляция.
Опасный танец с роботом: как стирается душа
Грань между человеком и машиной уже не просто тонка — она почти исчезла. И дело не в протезах или имплантах, хотя и они превращают нас в киборгов, готовых к слиянию с технологиями.
Самое пугающее — то, что мы сами, добровольно, отказываемся от качеств, которые делали нас людьми. Развитие технологий привело к тому, что научная мысль начала оспаривать само существование души, личности и свободы воли. Нам внушают, что мы — всего лишь биохимические алгоритмы или набор атомов, не более сложные, чем компьютер, только сделанные из плоти. Если сознание — просто «пучок белковых проводов», который можно скопировать на чип, то что останется от уникальности?
В этом стремлении к «улучшению» человека (трансгуманизм) кроется страшная ирония: мы боремся против своей «падшей» природы, но рискуем, что наш преемник, постчеловек, будет лишен субъективного опыта, эмоций и совести. Мы, конечно, можем наделить ИИ правилами, но никто не гарантирует, что сверхразумная машина, в тысячи раз превосходящая нас интеллектом, не «пересмотрит запрограммированное дружелюбие».
Более того, мы, люди, уже начали относиться друг к другу как к ресурсу или сырью, состоящему из рационально организованных элементов. Мы не испытываем ненависти к лабораторным мышам, но готовы разбить им череп ради эксперимента. Так и сверхразумному ИИ не обязательно нас ненавидеть, чтобы погубить: он может решить использовать молекулы нашего тела в каких-то иных целях, нежели обеспечение нашей жизнедеятельности. В конце концов, нас ждет шах и мат, как в поединке шахматного компьютера с первоклассником.
Цифровая тюрьма: прозрачность и ненужность
Самые яркие признаки того, что мы уже в ловушке, видны в нашей повседневной жизни. Первая угроза — превращение человека в «лишний элемент системы». Роботизация и автоматизация лишают работы миллионы людей, вытесняя целые пласты профессий. Вскоре мы столкнемся с «мегакризисом техногенной безработицы» и появлением касты «бесполезных». Если раньше мы были ценны как рабочая сила и потребители, то теперь алгоритмы могут делать нашу работу лучше и дешевле, а в будущем машины смогут даже потреблять за нас.
Вторая угроза — полная потеря приватности и тотальная слежка. Мы добровольно отдаем свои данные в обмен на удобство, не задумываясь о том, что теряем контроль над личной жизнью. «Умные» технологии, камеры с распознаванием лиц и биометрические датчики стирают границу между личным и публичным. Те, кто откажется от этого, будут восприниматься как подозрительные «дикари». В этом новом мире, где алгоритмы знают о нас больше, чем мы сами, власть неизбежно перейдет от людей к машинам. Наш выбор перестает быть свободным, поскольку алгоритмы могут «взломать человеческую сущность» и принимать решения за нас.
Мы находимся в самом разгаре Эпохи Перемен, и, как бы уверенно ни выглядели лидеры, они сами в растерянности. Проблема в том, что мы, как вид, не готовы к таким скоростям и таким вызовам. Единственный шанс — не пытаться вернуться назад, что невозможно, а осознанно выбрать путь развития, который ставит в приоритет высокие общечеловеческие качества, ценности и идеалы. Нам нужно срочно повзрослеть, потому что время безвозвратно уходит.
Вопрос не в том, будет ли у нас технологический прогресс, а в том, останется ли в этом новом мире место для человечности, и готовы ли мы за нее бороться?