Ум, который живёт не в голове: почему мы теряем своё «я» в гонке за эффективностью, и кто принимает решения за нас
Нам всегда казалось, что интеллект и сознание — это как сиамские близнецы: они либо существуют вместе, либо не существуют вовсе. Мы, люди, были уверены, что только сознательное существо способно на высокоинтеллектуальные задачи. Но вот парадокс нашей эпохи: выяснилось, что интеллект — то есть способность достигать поставленных целей — может прекрасно работать без сознания, без боли, любви, сомнений или счастья.
Технологический прогресс, особенно в сфере искусственного интеллекта, ставит нас перед фактом: машина умеет считать, прогнозировать и даже творить лучше, чем мы, при этом оставаясь совершенно бездушной. Мои коллеги-аналитики бьют тревогу, и я их понимаю. В этой невероятной гонке за скоростью и удобством мы рискуем потерять не просто работу, а нечто гораздо более важное — своё право на осмысленную, субъективную жизнь.
Когда эффективность заменяет внутренний отклик
Скажите честно, как часто вы сейчас пользуетесь навигатором, чтобы доехать до места, куда раньше добирались по памяти? Как часто вы гуглите, чтобы получить готовый ответ, вместо того чтобы покопаться в голове или сходить в библиотеку? Каждый раз, беря в руки гаджет, мы добровольно становимся киборгами. И это ужасно удобно! Именно эта извечная человеческая тяга к удобству и является главным катализатором потери нашего «Я».
Раньше, чтобы запомнить что-то, нам нужно было прилагать усилие. Раньше, чтобы построить маршрут, мы тренировали пространственное мышление. Теперь все это делает машина, не испытывая ни малейшего усилия, сомнения или усталости. Мы делегировали ей не только рутину — от арифметики до запоминания телефонов и ориентирования по картам, но и принятие решений. А зачем нам, спрашивается, эти навыки, если алгоритм справляется в тысячи раз лучше и быстрее?
В этом и кроется ловушка: когда готовый ответ приходит раньше, чем успевает возникнуть внутренний вопрос или личное понимание, у человека исчезает само пространство для живой, субъективной реакции. Мы становимся пассивными потребителями решений. Чем больше мы полагаемся на технологии, тем быстрее атрофируются наши базовые когнитивные навыки. Мы становимся зависимы от инструментария новой эпохи.
Что происходит, когда мышление отделяется от субъекта
Алгоритмы, в отличие от нас, не нуждаются в субъективных ощущениях, чтобы нормально функционировать. Возьмите самоуправляемые автомобили: они обрабатывают миллионы данных в секунду, не испытывая страха, который неизбежен для человека-водителя. Они просто делают то, что им предписано, — и делают это идеально.
Проблема в том, что мы, наблюдая за такой сверхэффективностью, начинаем боготворить эти бездушные системы и охотно передаем им всё больше власти. Мы доверяем алгоритмам кредитный анализ, медицинские диагнозы, а скоро будем доверять и более интимные решения.
И вот здесь становится по-настоящему тревожно. Алгоритмы, работая с огромными массивами данных, начинают знать о нас больше, чем мы сами можем о себе знать. Они анализируют наши скрытые желания, страхи, биохимические реакции. И, конечно, используют эти знания, чтобы нами манипулировать — например, подсовывая нам «нужный» контент или рекламу, вызывающую прилив дофамина.
Это сродни ситуации, когда пилот, у которого от перегрузки кружится голова, вынужден игнорировать свои чувства и слепо довериться приборам и автоматике. Мы, свободные люди, становимся набором биохимических механизмов, находящихся под постоянным наблюдением и контролем. Где здесь место для моей свободной воли, если алгоритм предсказывает мой выбор с точностью 99%? Мы рискуем быть «вытесненными» из собственной жизни.
Суть: если сознание перестанет управлять интеллектом
Если мы продолжим делегировать машине право на мышление и принятие решений, то неминуемо перестанем ощущать свою роль в мире. Наше сознание, наше «Я», наше внутреннее содержание просто не будет востребовано, ведь мы будем действовать по алгоритмам, которые нам подсказывает «технологическая дыра».
Мы рискуем превратиться в безличную систему, в «биомассу», ноду в огромном сетевом улье, где личность и уникальность теряют смысл. Нас больше не будут волновать традиционные человеческие ценности: любовь, искусство, дружба. Мы будем страдать не от эксплуатации, а от своей абсолютной ненужности. В пределе, мы, люди, сами начнем мыслить как машины, предпочитая алгоритмическую логику здравому смыслу, потому что так эффективнее.
Меня как автора тревожит, что мы, создавая все более сложные и взаимосвязанные системы, все меньше способны их контролировать и понимать. Технологии развиваются экспоненциально, а наша способность выработать этические и правовые нормы — линейно. Мы не успеваем! В гонке за прорывами мы выпускаем на рынок технологии, не имея достаточных гарантий их безопасности.
Мне бы хотелось, чтобы мы наконец осознали, что если мы тратим доллар и минуту на совершенствование ИИ, то ровно столько же мы должны тратить на развитие и исследование человеческого сознания. Нам нужно научиться находить островки времени, чтобы отключиться от потока информации и вернуть себе возможность глубокого, сосредоточенного мышления. Нам нужно перестать доверять готовым ответам и вернуть себе право на ошибку и право на осмысленное сомнение.
Иначе наступит самый тривиальный апокалипсис в истории: мы просто перестанем быть собой, кликнув компьютерной мышью. А потом уже будет неважно, кто кого контролирует — машины нас или мы сами превратились в бездушный алгоритм.
Что, если самый большой вызов XXI века — это не победить ИИ, а не перестать быть человеком?.