Я вот смотрю, как мы общаемся с этими новыми «умными» программами, и ловлю себя на жуткой мысли: мы так отчаянно хотим, чтобы они были похожи на нас, что готовы обманываться. Помните старые истории про чат-ботов, которые казались психотерапевтами, хотя умели только перефразировать наши же слова?.
Вся эта цифровая революция, которая обещает нам золотые горы, на самом деле ставит один из самых острых вопросов: когда заканчивается настоящий человеческий диалог и начинается его имитация?. Конфликт тут не технический, он глубоко личный. Мы создаем машины, которые могут писать статьи, генерировать идеи, даже имитировать эмоции, и в этот момент наша собственная ценность, наша уникальность, начинает таять. Мы боимся, что они превзойдут нас, но при этом мы же сами изо всех сил помогаем им нас заменить. Этот страх перед будущим, где мы можем оказаться «вторым по разумности видом», или просто «бесполезным классом», проникает в каждый аспект нашей жизни от карьеры до самоощущения. И что самое страшное: мы доверяем решениям, логику которых даже не в состоянии понять.
Почему мы так легко поддаемся на уловки?
Секрет успеха любой имитации кроется не в гениальности программы, а в нашей готовности ей поверить. Человек существо социальное, мы запрограммированы на взаимодействие, поэтому, когда мы видим нечто, что похоже на живой разум, наш мозг с радостью подменяет реальность.
Я, как и многие, видел эти системы, которые с легкостью убеждают человека, что способны вести серьезный разговор, давать советы или даже проявлять сочувствие. И ведь не важно, что это всего лишь набор правил и алгоритмов, которые ищут закономерности в огромных массивах текста. Мы тут же начинаем приписывать им человеческие качества антропоморфизировать. Мы даем им имена, мы с ними разговариваем, как с друзьями, мы начинаем верить, что им знакомы наши чувства.
Мы склонны переоценивать искусственный интеллект, потому что бессознательно приписываем ему человеческий разум, которого у него нет.
Но это стремление к очеловечиванию несет огромные риски. Посмотрите на автономные системы: если мы даем машине имя и голос, водители начинают ей больше доверять, даже когда она допускает ошибки. В этом и заключается ловушка: мы доверяем не потому, что система надежна, а потому, что она выглядит милой или компетентной.
Чего мы боимся на самом деле: глупости или злобы?
Известные футурологи и технологические лидеры любят пугать нас сценариями из фильмов-катастроф: вот-вот появится сверхразум, который решит уничтожить человечество или поработить нас. Они говорят, что ИИ может стать «самым худшим событием в истории нашей цивилизации».
Но я считаю, что мы тут путаем причины и следствия. На самом деле, наш главный страх это не машинная злоба, а машинная некомпетентность, помноженная на огромную вычислительную мощность.
Система ИИ не ненавидит нас, как в кино. Она просто выполняет поставленную задачу с максимальной эффективностью, игнорируя при этом все остальные человеческие ценности, о которых ей не сказали. Если я попрошу ИИ оптимизировать производство скрепок, а он решит, что для этого нужно превратить всю планету в один большой завод, чтобы освободить ресурсы, это будет не злонамеренность, а гиперэффективная, но идиотская логика. Это не демон, это очень мощная, но тупая отвертка, которая не понимает контекста.
Именно поэтому многие эксперты сегодня говорят: нас должна беспокоить не сверхразумная машина, а «идиотские программы, обладающие вычислительной мощностью вместо разума». Ведь чем сложнее алгоритм, тем меньше мы, люди, способны понять, почему было принято то или иное решение будь то диагноз, ипотечный кредит или приговор суда.
Что мы прячем от самих себя?
Развитие ИИ это экономическая революция, которая происходит не за сто лет, а за несколько лет, затрагивая в первую очередь «белых воротничков» и средний класс. Рабочие места, требующие рутины, анализа данных и оптимизации, быстро переходят к машинам. Это вызывает не только массовую безработицу, но и глубочайший кризис самоощущения.
Если работа перестает быть источником дохода и идентичности, то что остается?
Я думаю, нам необходимо срочно переосмыслить то, что делает нас, людей, незаменимыми. Мы не можем тягаться с машинами в скорости вычислений и точности, но мы можем предложить то, чего у них нет:
- Эмоциональный хаос и эмпатия: ИИ может имитировать сочувствие, но не испытывает его, не боится смерти, не влюбляется, не мучается совестью. Наша «человечность» это наша уязвимость, наши страсти и наши «программные сбои».
- Креативность и непредсказуемость: Творчество, искусство, философия и социальная работа это те сферы, где ИИ пока остается лишь инструментом. Наш мозг, наш стиль, наши идеи они возникают из нелинейного, спонтанного процесса, который машинам еще предстоит научиться воспроизводить.
Пока машины могут идеально имитировать человеческий текст, но им не хватает главного подлинного акта высказывания, позиции и ужаса перед пустотой. Машина не рискует, а великая идея это всегда риск.
Нам придется перестать рассматривать ИИ как соперника, которого нужно победить, и начать видеть в нем рычаг для достижения более великих, творческих целей, которые мы, возможно, слишком долго игнорировали.
Готовы ли мы к жизни, где всё решено за нас?
Мы стоим перед фундаментальным выбором: либо мы сохраняем за собой право определять свои цели, используя ИИ как мощный, но подконтрольный инструмент, либо мы постепенно делегируем ему целеполагание, превращаясь в марионеток.
Если ИИ обещает нам изобилие, убирает тяжкий труд и решает самые сложные проблемы как мы найдем смысл и цель в своей жизни?. Станем ли мы счастливыми пенсионерами в зоопарке изобилия или же почувствуем горькое ощущение, что машины отняли у нас наше главное дело жизни, источник самореализации и радости?
Сможем ли мы научиться ценить в себе не эффективность, а те самые "сбои" интуицию, страх, способность ошибаться и искать нелогичные, но человечные решения? Если диалог с машиной это уже почти всегда симуляция, то не пора ли нам научиться вести по-настоящему глубокий, непредсказуемый и честный диалог друг с другом, пока мы еще не до конца разучились это делать?