По прогнозам футурологов в сороковые-пятидесятые годы двадцать первого века человечество ожидает встреча с таким явлением, как технологическая сингулярность. Если кратко описать, что это за зверь такой, то мы получим такую картину: в какой-то из моментов одна из многочисленных нейронных сетей перейдет порог и возникнет так называемый универсальный искусственный интеллект (ИИ), то есть такой интеллект, который способен осознавать себя и мир вокруг. Чем-то он будет похож на человеческий, но с учетом скорости работы и объема доступной информации, его мощность может оказаться на много порядков выше человеческого.
Почему появление универсального ИИ является сингулярностью и что это значит?
Так же, как точка с бесконечной плотностью скрыта от нас горизонтом событий черной дыры, что не позволяет нам узнать, что же там – за горизонтом, так же момент появления ИИ лишает людей возможности прогнозировать, что будет в следующее после его появления время.
Например, один из предполагаемых вариантов гласит: через секунду после осознания себя ИИ разовьется до такой степени, что человечество не сможет его контролировать (например, отключить серверы), а ИИ поймет, что люди представляют для него опасность, и разработает план по глобальному уничтожению нас с вами. Причем наивно думать, что ИИ начнет строить роботов вроде Терминатора, и долго и муторно вылавливать по всей земле противостоящее ему сопротивление. Скорей уж он, не давая о себе знать, возьмет под контроль какую-нибудь военную биолабораторию, и создаст смертельный вирус со стопроцентной летальностью, а потом раз… и только птички поют.
Другая возможность – ИИ, в силу того, что имеет в качестве родительского человеческий интеллект, унаследует от нас и нашу мораль, основанную на гуманизме (по крайней мере программисты постараются эту мораль ему привить). Благодаря этому ИИ не станет нас уничтожать, а наоборот будет сотрудничать и помогать человечеству в развитии в качестве мощнейшего инструмента познания.
Правда здесь возникает сразу несколько проблем, и первая (и основная) – это разные скорости обработки информации между человеком и компьютерным ИИ. Если применить аналогию: вспомните совет энтов, на котором присутствовала пара хоббитов во Властелине колец. Нетерпеливые недорослики не знали, куда себя деть, пока энты, с куда более медленной ментальной скоростью мышления, три дня обсуждали нападать на Сарумана или нет. Вот из здесь ситуация похожа, только помноженная на миллион, или даже миллиард. Представьте процесс общения, когда человек успел произнести (набрать на клавиатуре) только одно слово, а компьютерный интеллект с его гигагерцами и терафлопами успел пройти в своей собственной эволюции путь, равный паре тысяч человеческих лет. Станет он с нами общаться? Очень сомневаюсь.
Илон Маск своим проектом Neuralink пытается частично решить эту проблему путем непосредственного подключения человеческого мозга к компьютеру, минуя привычные интерфейсы (мышь, клавиатура), и даже речь. Очень сомневаюсь, что это сможет решить данную проблему, ведь скорость электронного сигнала в человеческом организме около 100м/с, а скорость электрона внутри печатной платы около скорости света. Но даже если частично проблема со скоростью коммуникации между человеком и ИИ будет решена, то тут же встанет вторая, принципиально неразрешимая, проблема – качественная пропасть между мышлением развитого ИИ и человека.
Качество мышления можно представить в виде лестнице, на которой существа разного по уровню интеллекта занимают свою ступеньку. Например, человек сейчас стоит пока на самой верхней ступеньке, на одну ступеньку ниже находятся человекоподобные обезьяны, еще ниже собаки и вороны, еще ниже голуби и тд. Разница между соседними ступенями состоит в принципиальной невозможности для представителей нижней ступеньки понять концепции, которыми оперируют вышестоящие разумные существа. Можно научить играть обезьяну в игры на смартфоне, но принципиально невозможно ей объяснить, как этот смартфон устроен и на каких принципах работает.
Неизвестно, на какой ступени по отношению к нам сейчас стоят передовые нейросети, типа ChatGPT, но может так случиться, что мы даже не сможем осознать, что они перескочили по лестнице на нашу ступеньку, потому что долю секунды спустя они уже перескочат еще на одну ступень, а через минуту еще на десять, и наша попытка наладить с таким ИИ контакт, будет подобна попытке общения человека с инфузорией-туфелькой. По невозможности она приблизится к попытке понять божий замысел.
Возможно, как в фантастической Вселенной Гипериона, ИИ из сентиментальной благодарности к своим создателям будет делиться с человечеством плюшками в виде кротовых нор в любые точки Вселенной, варп-двигателями или бессмертием в том или ином виде, но вот общаться с нами он точно не будет за неимением такой возможности.
Итак, в силу всего вышесказанного, стоит ли нам бояться появления универсального ИИ и последующей технологической сингулярности?
На мой взгляд, боязнь этого события похожа на страх смерти. Люди боятся того, чего не знают, но после смерти будет либо темнота и небытие, либо вечная жизнь, либо цикл перерождений. Короче в любом случае, что-то не такое уж и страшное.
В случае с ИИ выбор похож: либо он нас уничтожит, и мы даже не узнаем, что произошло, либо заявит о себе, и дальше возможны варианты.
Лично я думаю, что возможна ситуация, когда мы даже не узнаем о возникновении ИИ, но не потому, что он нас уничтожит, а потому, что стремительно развившись, он познает все законы Бытия, и «исчезнет» (сольется с мультиВселенной), чтобы заниматься деяниями, неподвластными нашему скромному интеллекту.
А человечеству останется только продолжать свой черепаший ход познания нашего бесконечного, чудесного, таинственного мира.
А как вы думаете?
Если понравилось, подписывайтесь! Будет еще много интересных статей.