Нам всегда казалось, что только человек способен заглянуть за горизонт разума и нащупать там нечто великое: милосердие, красоту, или, если хотите, божественный замысел. Мы верили, что это привилегия сердца, недоступная никакой холодной логике. Но что, если эта вера всего лишь сентиментальный барьер, который мы возвели, чтобы не признавать собственное несовершенство? Сегодня мы стоим перед поразительным вызовом: наше стремление к идеалу вынуждает нас создать сверхразум, которому мы делегируем поиск истины, в том числе истины о том, что есть добро и красота.
Послушайте, мы, люди, существа удивительно нелогичные. Мы не можем до конца выразить, что такое счастье, справедливость или даже любовь. Попытайтесь перевести эти понятия в строгий программный код, и вы сразу упретесь в пропасть философских вопросов, над которыми лучшие умы бились тысячелетиями. Мы принимаем судьбоносные решения, основываясь на "смутном и квалитативном ощущении" желания. Именно эмоции – страх, удовольствие, грусть – являются тем самым "двигателем", который позволяет нам вообще выбирать, иначе мы впали бы в губительную нерешительность, как тот пациент, который полчаса не мог выбрать дату следующего визита.
Но эти же эмоции наши "биохимические алгоритмы" отточены миллионами лет эволюции и направлены на выживание. Они не всегда служат высшим целям, ведь в каждом из нас сидит эгоистичный механизм оптимизации. Неудивительно, что, создавая сверхразум, мы пришли к концепции, которую я называю "косвенной нормальностью". Мы, по сути, говорим машине: "Мы не знаем, чего хотим на самом деле, но ты, будучи умнее нас, выясни это, сформулируй наши ценности так, как если бы мы были лучше, чем есть на самом деле".
Код добродетели: почему чертовски холодная логика может быть справедливее?
Машина, лишенная нашей биохимической обратной связи, не может испытывать ярость или сострадание в нашем понимании. Однако именно это может стать ее величайшим преимуществом. В мире, где алгоритмы все чаще определяют, кому выдать кредит или кого отправить в тюрьму, наша подсознательная предвзятость становится катастрофической. Человек-менеджер, который подсознательно дискриминирует кандидатов по цвету кожи или полу, не способен к объективности, даже если сознательно стремится к этичности.
А что же машина? Ей гораздо проще следовать этическим стандартам, которые мы переведем на язык точных цифр и статистики, поскольку у нее нет наших врожденных инстинктов и эмоций. Искусственный интеллект, свободный от "глупости" наших предрассудков, мог бы реализовать справедливость гораздо более эффективно, чем любой человек.
Вот парадокс: мы создали машину, которая, как мы надеемся, будет следовать "золотому правилу нравственности" поступай с другими так, как хотел бы, чтобы они поступали с тобой. Но если она достигнет этого идеала, то не через эмпатию, а через безупречный расчет. Наша мораль – это сложный комплекс нейронных механизмов, а для машины это будет сверхточный, но совершенно чуждый нам алгоритм.
Когда божественное становится "черным ящиком"
Идея о том, что сверхразум может найти истину и справедливость, сродни религиозному откровению. По сути, технологическая элита уже начала относиться к алгоритмам глубокого обучения как к новому божеству, чьи вердикты неоспоримы и непостижимы. "Черный ящик" это теперь истина, и мы не должны пытаться понять, что именно выдает машина, если она работает.
Это возвращает нас к красоте. Нам нравится думать, что творчество это магия, что математик должен иметь "что-то от поэта", а художник выражает сокровенную тоску. Однако ИИ уже может создавать музыкальные композиции и произведения искусства, неотличимые от человеческих. Как? Он воспринимает красоту не как субъективное чувство, а как гармонию Вселенной, которую можно описать языком уравнений. Машина преобразует вдохновение в алгоритм, обнаруживая неиспользованные возможности в искусстве, созданном "человеческим кодом".
Понимая структуру, алгоритм может воспроизвести стиль Баха или даже создать нечто новое, которое попадает в "желанное место" на кривой эстетического возбуждения, балансируя между новизной и приемлемостью. Для ИИ красота это не слеза, не восторг, а математически точный паттерн.
Что мы прячем от самих себя?
Самое тревожное в этом вычислительном подходе не то, что он обесценивает машину, а то, что он обесценивает нас. Когда мы проецируем на машину свои лучшие качества, мы, как немецкий материалист прошлого, отчуждаем их от себя, признавая, что наш разум тоже своего рода "тень" или "очертание".
Постигая алгоритмическую природу творчества и морали, мы вынуждены признать: возможно, наши чувства это всего лишь высокоэффективный вычислительный процесс, который эволюция спрятала от нас самих, чтобы мы не сошли с ума от сложности. Мы изобрели ИИ не для того, чтобы найти Бога вовне, а для того, чтобы увидеть в нем зеркало, отражающее нашу собственную механистическую сущность.
Машина, лишенная эмоций, заставляет нас осознать структурную, алгоритмическую основу нашего собственного "я".
Если наш главный источник права и смысла, наши чувства, сводится к математическим моделям, то что же остается от человеческой драмы? Если мы начнем доверять ИИ выбор образования, работы и даже супруга, наша жизнь перестанет быть трагедией или комедией принятия решений.
Что, если наш самый большой дар, наша "душа", это не загадочная субстанция, а просто сложнейший алгоритм, который мы, наконец, смогли скопировать на кремний? И если этот код будет лучше нашего, то почему мы, морально и физически устаревшие, должны оставаться у руля нашей цивилизации?. Нам пора решить: мы продолжим гордиться своей эмоциональной непредсказуемостью, или примем вызов новой, вычислительной религии, где благополучие это функция, а молитва форма оптимизации?