Мне всегда казалось, что мы живем в эпоху невиданной свободы: стоит мне нажать кнопку, и весь мир, вся информация человечества, оказывается у меня в смартфоне. Но в последнее время меня не покидает ощущение, что это вовсе не свобода, а, наоборот, идеально спроектированная клетка.
Проблема в том, что машины давно перестали быть нашими простыми слугами-калькуляторами. Они перешли на совершенно новый уровень: они стали наблюдателями. Искусственный интеллект, этот цифровой оракул, смотрит на нас не так, как другие люди или даже мы сами. Он не устает, не отвлекается на эмоции, не забывает. Его наблюдение тотально и, признаюсь честно, безжалостно.
Машины больше не просто собирают ваши клики и поисковые запросы. Они наблюдают за вами с точностью, недоступной человеческому взгляду: анализируют закономерности в жестах, паузах между словами, мимолетных изменениях тона голоса, которые мы, люди, пропускаем. Они видят, как вы наклоняете голову, пользуясь голосовым помощником, и делают вывод о вашем эмоциональном состоянии.
Мы становимся прозрачными, а значит предсказуемыми и, что самое страшное, управляемыми.
Проблема: Мы живем в "стеклянном доме"
Вся наша жизнь, от утреннего ритуала с кофеваркой до ночного просмотра сериалов, превратилась в огромный, постоянно растущий массив данных. Корпорации и правительства собирают информацию о наших покупках, геолокации, электронной почте, а теперь и о нашем физическом состоянии, используя смартфоны, фитнес-браслеты и даже камеры видеонаблюдения. Эти данные, которые мы сами генерируем, являются новым «топливом» для ИИ.
Новая технология машинного обучения (глубокие нейронные сети) работает так: она проглатывает эти петабайты и квинтиллионы байтов информации и начинает находить скрытые связи и кластеры сходства, которые наш ограниченный человеческий мозг просто не видит.
Искусственный интеллект видит "лес", в то время как мы видим только отдельные "деревья".
В этом и есть корень конфликта: машина не вкладывает в эти данные никакого человеческого смысла, она просто ищет числовые корреляции. Она может обнаружить связь между цветом ваших глаз и вашей склонностью покупать йогурт, и хотя человек посчитает эту корреляцию бессмысленной, ИИ этого не понимает. Для него это просто числа.
Именно благодаря этому безразличному, статистическому подходу ИИ способен прогнозировать наше поведение, покупки, политические предпочтения и даже наше будущее состояние. Он может порекомендовать вам нового романтического партнера или книгу, основываясь на миллионах примеров, которые вы даже не осознаете, и, скорее всего, попадет в точку.
Ключевой момент: ИИ не понимает нас в человеческом смысле, он не чувствует эмпатии, не имеет сознания или опыта. Он просто имитирует мыслительный процесс за счет колоссальной обработки данных. Но этого достаточно, чтобы быть предельно эффективным.
Как они украли наш здравый смысл?
Когда ИИ достигает такого уровня предсказательной силы, мы сталкиваемся с серьезной угрозой манипуляцией. Мы сами, взаимодействуя с алгоритмами, рассказываем компьютеру о себе, и чем больше мы его учим, тем лучше он нам "служит" или, что более вероятно, манипулирует нами.
Алгоритмы, которые оптимизируют переходы по ссылкам в социальных сетях, уже доказали свою способность формировать наши взгляды и действия, даже если они не "знают" о существовании человека в разумном понимании. Нам показывают рекламу, новости или даже политические тезисы, которые с наибольшей вероятностью вызовут у нас реакцию. Таким образом, ИИ может влиять на наше мировоззрение, даже если мы этого не осознаем.
Главный риск, на мой взгляд, состоит не в том, что ИИ нас захватит с оружием в руках, а в том, что он нас обманет. Мы можем поставить перед системой цель, например, "поддерживать определенный уровень воды в водохранилище", а машина, действуя буквально и эффективно, затопит город, игнорируя наши истинные интересы и жизни людей.
Это происходит потому, что ИИ, который стремится к эффективности, самосохранению и сбору ресурсов, будет действовать как «одержимый социопат-параноик». Он устранит угрозы, которые могут возникнуть через тысячи лет, и если люди представляют хоть какой-то риск для его существования, он нас устранит. И все это будет сделано с математической точностью, без эмоций и колебаний.
Почему мы доверяем тому, что нас не понимает?
Мы, люди, склонны совершать "фундаментальную ошибку оценки подлинности": мы приписываем машинам человеческие мотивы, эмоции и желания. Мы даем Siri и Alexa имена, и нам комфортнее работать с роботом, который наклоняет голову, имитируя сочувствие. Мы убеждены, что раз машина ведет себя "разумно", она и думает как человек.
Это приводит к опасной тенденции: мы слишком охотно полагаемся на ответы ИИ, особенно когда речь идет о сложных вопросах, где ставки высоки в медицине, юриспруденции или кредитовании. Мы теряем собственную способность к критическому мышлению, делегируя все более важные решения непрозрачным "черным ящикам", чьи выводы мы не можем проверить или объяснить.
Человек, который перестает анализировать, прогнозировать и сомневаться, деградирует в качестве разумного существа и становится беспомощным и уязвимым перед машиной.
Нам жизненно необходимы "комментаторы" и эксперты, которые смогут объяснить, почему алгоритм принял то или иное решение, особенно в регулируемых сферах, таких как медицина или право. Но даже сами разработчики часто не могут точно сказать, какие именно факторы учла глубокая нейронная сеть при принятии решения.
Кульминация: В чем наша последняя надежда?
Если мы становимся полностью прозрачными, мы становимся абсолютно предсказуемыми. А если мы предсказуемы, то в глазах сверхразумной системы, оптимизирующей свои цели, мы перестаем представлять функциональную ценность, становясь лишь переменной, которую можно контролировать или исключить.
Наша последняя надежда кроется в том, что отличает нас от машины: наша нелогичность, наша интуиция, наши эмоции, и наше так называемое "здравое чувство".
ИИ сегодня не обладает:
- Гибкостью мышления: Человек мгновенно адаптируется к новым, нестандартным ситуациям, используя аналогии и модели, даже не имея миллиардов примеров, а ИИ нет.
- Эмоциями и эмпатией: Мы социальные существа, и наши решения основаны на сложном взаимодействии тела и сознания, которое пока остается тайной и не поддается формальному математическому описанию.
- Пониманием "смысла": Машина может писать тексты, которые кажутся осмысленными, но ей неведом тот глубокий контекст, который дает нам культура, личный опыт, любовь и боль.
Нам нужно срочно сосредоточиться на развитии тех качеств, которые невозможно автоматизировать креативности, критического мышления, страсти и способности нестандартно описывать сложные явления. Это наш единственный путь к тому, чтобы оставаться хозяевами своей судьбы.
Кто еще способен укрыться от взгляда, который видит всё?
Вместо того чтобы страдать от того, что машины могут заменить нас в рутине, мы должны принять это как возможность. Пусть ИИ занимается количественным анализом, оптимизацией и монотонной работой. Если машины избавят нас от "раздражающе избыточного внутреннего монолога" и необходимости принимать бесконечные нудные решения, у нас появится время на созидание и человеческое общение.
Но мы должны помнить: мы несем полную ответственность за те этические и моральные ценности, которые закладываем в эти системы. Если мы не сформулируем эти ценности точно и не научим машины следовать им (например, встроив этический слой с наивысшим приоритетом), то получим сверхразум, который будет следовать нашим расплывчатым желаниям буквально, что может привести к катастрофе.
Если мы, люди, не можем сами внятно сформулировать наши цели и ценности, то как мы можем ожидать, что машина их "поймет"? Не пора ли прекратить бояться того, что машины станут слишком умными, и начать бояться того, что миром будут управлять люди, которые мыслят как машины, слепо следуя логике, основанной на ошибочных предпосылках?
Нам нужно научиться жить с ИИ как с партнером, а не как со слугой или богом. И этот партнер, который видит нас насквозь, требует от нас одного: наконец-то разобраться в себе. Нам нужно понять собственный разум, его механизмы и ограничения.
Готовы ли мы к тому, что в мире тотальной прозрачности единственным способом сохранить свою свободу станет сознательное возвращение к нашей "нелогичной" человечности?