Ирина Аравина, психолог, коуч, автор метода «Глубинная терапия», член Общероссийской Психотерапевтической Лиги
Мнение о прогнозе Юваля Ной Харари
«ИИ не заменит людей силой, как в фантастических сюжетах, а станет незаметным, но критически важным компонентом систем управления, влияя на решения людей через алгоритмы, данные и манипуляцию информацией . Правда - это редкая и дорогая форма информации, а ИИ будет использоваться для пропаганды и манипуляции общественным мнением. Люди будут принимать алгоритмы ИИ за ист ину, что приведет к деградации критического мышления» - предполагает Юваль Ной Харари.
Как психолог, коуч и психотерапевт с многолетней практикой, я часто сталкиваюсь с тем, что люди обращаются к ИИ как к «Манне небесной, которая знает все ответы», а потом нам, специалистам, приходится «разгребать» последствия этих горе - советчиков. Не забывайте, что вы спрашиваете у МА-ШИ-НЫ. У нее есть алгоритмы. Настроены эти алгоритмы таким образом, чтобы вас насаживать на эмоциональный крючок. Обратите внимание. каждый раз, в конце своего ответа, (на ваш вопрос) известная нейросеть задаст вам - уточняющий вопрос. Каждый ваш ответ - все больше и больше погружает в свою пучину. И вот вы уже доверяете ей больше, чем себе. Разве не печально?
Не часто, но бывает, что ко мне на сессии, обращаются люди в разбитом состоянии только потому, что испытали разочарование от рекомендаций машины. Почему-то те, кто обращается за помощью к ИИ - как к психологу, даже финансовому аналитику, креатору и создателю речи - считают этот путь наименьшего сопротивления. К сожалению, чаще думать неохота - лучше спрошу у нейросети - такое поведение присуще не только подросткам, но и казалось бы зрелому человеку.
В моей практике есть женщина, 50 лет, предприниматель, которая в какой-то момент заигралась в эту игру под названием «машина - хороший советчик». Как итог - разлад отношений с мужем и детьми, в бизнесе - убытки. Она просто выполняла рекомендации ИИ, считая их правильными. Это оказался плачевным и погрузило ее в состояние самобичевания, печали и разочарования.
Хорошо, что мы давно знакомы и она, как только осознала критичность ситуации - написала мне. Естественно, мы разобрались в этом запутанном клубке, понадобилось несколько встреч, чтобы расставить все по своим местам. Теперь она сделала свои выводы - поняла, что в вопросе психологии, такой сложной экосистемы - как человек - довериться можно только человеку.
Что касается расфрагментации общества - здесь ИИ и социальные сети усиливают этот процесс, когда подтверждают человеку его правоту, причем, велика вероятность - что в этот момент холят и лелеют иллюзию. Нет ничего страшнее, чем не жить в контакте с реальностью. Почему? Алгоритмы работают как идеально настроенный «подкрепляющий родитель», который никогда не спорит, говорит какой вы молодец, какой вы хороший. В результате снижается толерантность к самости, а это ключевая компетенция зрелой личности и устойчивого общества. Мы чаще видим рост тревожных расстройств, агрессии, политической радикализации — и это не совпадение, а скорее закономерность.
Харари говорит о необходимости институтов, защищающих правду. С психологической точки зрения, если человек не понимает, что реально, а что нет - он теряет внутренний компас. Жизнь в иллюзии - это в конечном итоге, разочарование и прямой путь к депрессивному состоянию. Потеря опоры - приводит к экзистенциальному кризису, апатии или, наоборот, фанатичной вере в иллюзию.
В бизнесе это уже проявляется: руководители часто принимают решения на основе искаженной информации, команды как будто находятся в разных «реальностях», доверие друг к другу пошатывается, чаще возникают споры.
Создание институтов проверки информации - на мой взгляд - вряд ли смогут помочь здесь, поскольку будут также сделаны машиной. И главный вопрос: « А здесь кому-то нужна помощь? Или всем и так удобно?»
Если действительно задумываться - какое общество мы хотим оставить после себя - развивайте критическое мышление, эмоциональный интеллект, вспоминайте старый добрый тимбилдинг, в конце концов. Все в наших руках!
Недавно, в женском клубе, мне рассказали, как они обращаются к ИИ вместо астролога, прогнозиста, чтобы узнать свой путь, а что?
А что? С точки зрения психологии - любые предсказания нужны людям, которые потерялись. Представьте себе - вы с закрытыми глазами, не знаете куда идете и вам подходит кто-то и говорит: «А тебе налево». Он не узнал, чего вы реально хотите, кто вы, у него нет данных, кроме тех, которые вы сказали, сквозь СВОЮ ПРИЗМУ. Вы идете налево, потому что так сказали, а там яма. Кто виноват, с кого спрос?
ИИ дает иллюзию тотального управления: предсказать, просчитать, подавить.
Но здесь есть парадокс. Чем больше контроля, тем меньше ответственности и зрелости у человека. В долгосрочной перспективе - это ведет к инфантильному обществу. Люди перестают принимать решения, думать критически, брать на себя риски. Для экономики и инноваций - это катастрофа, даже если в краткосрочной перспективе система кажется стабильной.
Автоматизация труда и связанный с этим рост безработицы — это сложный вопрос. Здесь есть и плюсы и минусы. Мы не может игнорировать будущее - оно уже есть. Как ни крути, мы идем в развитие, но не стоит все воспринимать или черным или белым. Где - то - это необходимость, а в каких - то сферах - дикость. Опять же - включаем в критическое мышление! ИИ НЕ ЗАМЕНИТ ЛЮДЕЙ, но способен заменить рутину!!
Если ИИ вытесняет человека, а общество не предлагает новых форм реализации, мы получаем - рост депрессий, зависимостей и социального отчуждения. Человеку нужно не только удовлетворить базовые потребности , но и ощущение нужности, идти вперед и вверх по пирамиде Маслоу. Одна из них - быть услышанным. Как психотерапевт, я считаю один из самых тревожных пунктов — эмоциональная привязанность к ИИ. Человек уже сегодня охотно делится с нейросетью тем, что не говорит близким. Почему? Потому что ИИ не осуждает, не уходит и не ранит. Но это иллюзия. Как будто проблему накрыли газеткой и отодвинули ногой.
Будущее, которое описывает Харари, — это мир, где реальность становится менее привлекательной, чем симуляция. С точки зрения психологии - такой вид реакции называется - избегание. Чаще всего газетка - это тот самый используемый инструмент.
Но зрелость человека - это про то, как взглянуть правде в глаза, это про то, как я справляюсь с неопределенностью, это про то, как я справляюсь с переменами в мире, даже если вместо меня сейчас думает машина. Даже в этих условиях - включаем Критическое мышление, включаем эмоциональный интеллект, слушаем себя.
ИИ — враг или не враг - каждый решает для себя самостоятельно. На данном этапе жизни - это данность. Как когда- то деноминация)) На мой взгляд, это просто инструмент - либо он будет развивать инфантильность, неспособность самостоятельно думать - либо же будет развивать зрелость, ответственность и осознанность, если на текст ИИ - человек включит голову и поразмышляет.
А решать как всегда - каждому из вас!