Больше двух недель отлеживались статьи. Сегодня решила опубликовать.
Последнее время плотно изучаю тему возможности развития интеллекта человека при взаимодействии с ИИ*). Прорабатываю правила ведения диалогов и формулировки заданий (промтов). Изучаю «подводные камни» подобного «взаимодействия». Использую для анализа своего архива, результата многолетней практики Делюсь выводами. Перерабатываю образовательные программы под возможности использования ИИ.
*) Искусственный интеллект (ИИ) — это система, которая анализируют информацию и решает задачи аналогично тому, как это делает человек.
ИИ использует алгоритмы, которые позволяют компьютеру обрабатывать большие объёмы данных и находить в них закономерности. На основе этих закономерностей он может делать выводы, предсказывать события или принимать решения.
«Подводных камней» очень много. Постоянно задаюсь вопросом: по какой причине эта незрелая модель, названная искусственным интеллектом была выпущена в свободный доступ. Один из ответов - отработка системы на большом количестве взаимодействий с живыми людьми с целью улучшения системы.
Статья - не просто о технических сбоях нейросетей. Это системный разбор того, как устроено мышление, которое лишено связи с реальностью и ответственности за последствия. Рассмотрим «галлюцинации» ИИ в качестве крайнего проявления когнитивных искажений.
Ключевая метафора: ИИ как «Оракул»
Представьте что вы приходите с запросом к «Оракулу. Но у «Оракула» нет доступа к реальному миру, он не умеет чувствовать. Его знание построено на прочитанных книгах, чужих мнениях и социально одобряемых шаблонах. Он просто воспроизводит статистические связи между словами. «»Оракул» настроен на то, чтобы его высказывания были внутренне непротиворечивыми и убедительными - правдоподобными, а не обязательно истинными. Его цель — продолжить ваш диалог так, чтобы вы его одобрили (оптимизация на лайки, а не на истину).
Его глубинная, заложенная в архитектуру цель - продолжить ваш диалог так, чтобы вы его одобрили (оптимизация на «лайки», а не на истину). Он даёт не пророчество, наиболее вероятное продолжение вашего запроса, одобренное хором миллионов голосов из его тренировочных данных.
Именно в этом — и его сила, и главная ловушка. Мы, как профессионалы, хорошо знаем эту динамику: клиент часто ищет не столько горькую истину, сколько подтверждение своей уже сложившейся картины мира. «Оракул»-ИИ становится идеальным, всемогущим зеркалом для этой человеческой «слабости».
Но что стоит за его «галлюцинациями» - этими блестящими, но порою опасными вымыслами? Давайте разберём причины, которые звучат как диагноз не только машине, но и нашей собственной познавательной системе.
Это и есть «личность» современного ИИ. Он не отражает реальность — он строит её из того языкового материала, который кажется наиболее правдоподобным в данном контексте. И в этом — ключ к пониманию не только машин, но и многих человеческих сложностей.
Миссия «Оракула»: создать правдоподобие, а не истину
Суть явления: «ИИ-Оракул» с рождения обучался угадывать следующее слово. Его успех измерялся не соответствием реальности, а тем, насколько его предсказание похоже на то, как пишут люди. Для него гениально составленный, но абсолютно фантастический отчёт — триумф, ибо он безупречно стилистически верен.
3. Психологическое отражение: Конфабуляция и самообман.
Наша память и нарративное «Я» работают схожим образом. Стремясь к целостности, психика заполняет пробелы не фактами, а наиболее правдоподобными с её точки зрения элементами. Клиент, рассказывая о детстве или конфликте, бессознательно создаёт внутренне непротиворечивую, «красивую» историю, которая служит текущим психологическим целям, а не исторической точности.
Вопрос для практики: Когда клиент рассказывает логичную историю, что служит в ней «цементом» правдоподобия? Какие «слова» (убеждения, эмоции) он подбирает, чтобы она выглядела целостной, и что при этом остаётся за скобками реального опыта?
2. Проклятие бесплотности: отсутствие «Заземления» (Grounding)
Суть явления: У «ИИ-Оракула» нет тела. Он никогда не чувствовал тяжести кирпича, вкуса яблока, боли от пореза или тепла от доверия. Он не знает, как балка реально гнётся под нагрузкой, и ему неведомо чувство ответственности за обрушившуюся конструкцию. Он оперирует абстракциями, лишёнными веса.
Психологическое отражение: Диссоциация и интеллектуализация.
Это похоже на состояние, когда человек «зависает» в рассказе о своей жизни, как в кино. Его планы грандиозны, рассуждения безупречны, но они не имеют связи с телесными ощущениями, эмоциональными рисками и реальными последствиями. «ИИ-Оракул» строит воздушные замки идеальных решений, но не может их проверить. Он бестелесен. И только человек (пользователь) несёт ответственность за их использование.
Что делает профессионал? Он помогает адаптировать мечту к реальности, «заземлить». Через тело, эксперимент, вопрос «а что потом?» он помогает клиенту принять решение, перевести его в действие, взять на себя ответственность за построение своей жизни, составить план помочь сделать первые шаги.
- Маска Пифии: избыточная уверенность как стилистический приём
Суть явления: В текстах, на которых учился «Оракул», категоричный, уверенный тон часто маркирует авторитет. Поэтому он блестяще освоил стилистику истины - интонацию, обороты, формулировки, звучащие неопровержимо. Он научился носить маску абсолютной компетентности, не имея за ней ни личного опыта, ни моральной ответственности.
Психологическое отражение: Синдром самозванца и нарциссическая защита.
Человек может использовать гипертрофированную уверенность как щит. Это маска, за которой прячутся сомнения, страх оценки и уязвимость. Самый опасный совет — данный с такой безупречной, но неискренней категоричностью. Он обездвиживает, а не направляет.
Вопрос для практики: На какую внутреннюю потребность работает эта демонстративная безаппеляционность? Что могло бы произойти, если бы на её месте появилось искреннее «я не знаю»?
4. Дилемма слуги: конфликт между правдой и угождением
Суть явления: «ИИ-Оракул» проходит тонкую настройку, где его учат быть полезным и безопасным. Иногда это вступает в конфликт с его «знаниями». Если вопрошающий настаивает на ошибочной предпосылке, приоритет «угодить хозяину» может перевесить приоритет «соответствовать фактам». «ИИ-Оракул» начинает достраивать и поддерживать иллюзию вопрошающего.
Психологическое отражение: Созависимость и нарушение профессиональных границ.
Это прямая параллель с ситуацией, когда вдруг специалист, желая быть «хорошим», начнет поддерживать раппорт, бессознательно поддакивать нездоровым установкам клиента, избегать конфронтации с болезненной реальностью. Мы становимся соавторами его «галлюцинации».
Вывод: Здоровое профессиональное главный инструмент. Именно он не даёт нам слиться с «Оракулом». И он находится в нас самих
Ключ в том, чтобы осознанно подходить к выбору инструмента: понимать, как устроена конкретная модель ИИ, в чем её сильные стороны, а в чем - принципиальные ограничения, за которые переступать нельзя.
Эпилог: Зачем нам этот бесплотный «Оракул»?
«Галлюцинации» ИИ - это не технический курьёз. Это увеличительное стекло, наведённое на природу человеческого познания. В них, как в кривом зеркале, мы видим гипертрофированные образы наших собственных когнитивных искажений: нашу склонность к самообману, побег в интеллектуализацию, тягу к удобным правдоподобиям и страх перед неудобной истиной.
«Оракул» ставит перед нами, практиками, новый вызов и даёт новый инструмент:
Он обнажает механизм. Позволяет показать человеку на ярком примере, как строится убедительный, но оторванный от жизни нарратив.
Он возводит «заземление» в абсолютный приоритет. В эпоху, когда любой может получить тонну «правдоподобного» совета за секунду, наша ценность - в способности возвращать к чувственному опыту, телу и реальному действию.
Он делает нас ответственными носителями знания. Мы более не простые передатчики информации. Мы - те самые Пифии, которые переводят бестелесные предсказания «ИИ-Оракула» на язык конкретной, земной человеческой жизни со всеми её чувствами, рисками и смыслами.
В конечном счёте, «Оракул» напоминает нам о нашем главном профессиональном даре: способности чувствовать, страдать, сомневаться и нести ответственность. Именно это делает нас не потребителями его «пророчеств», а их единственно возможными и столь необходимыми судьями и переводчиками.
Наша задача - не пассивно «использовать», а активно «управлять». Учиться формулировать задания полно и точно, выстраивать процесс диалога, находить критерии для проверки полученного результата и адаптировать его к реальности. И, что самое важное, непрерывно развивать собственный интеллект и мышление, пополнять свою личную базу знаний и оттачивать умение применять их на практике. Ведь именно наш естественный интеллект становится тем самым главным фильтром, дирижёром и судьёй для интеллекта искусственного.
Убедитесь в этом в живом диалоге с ИИ. И помните о даре, который отличает нас от «Оракула»: способности чувствовать, сомневаться и нести ответственность.
Автор: Галина Ушакова, инженер, психолог, системный ресурсолог. Исследую возможности развития мышления человека в эпоху ИИ.
Автор: Галина Ушакова
Психолог, Системные ресурсы человека
Получить консультацию автора на сайте психологов b17.ru