Иллюзия интеллекта
Каждый день появляются все новые примеры сногсшибательных диалогов с GPT, Cloude и Gemini. После их прочтения трудно не уверовать в наличие у последних версий AI-чатботов человекоподобного разума и даже какой-то нечеловеческой формы сознания.
Но скорее всего это лишь следствие нового типа наших собственных когнитивных искажений, порождаемых в нашем разуме AI-чатботами на основе LLM.
«Иллюзия интеллекта» — это результат нового типа наших собственных когнитивных искажений.
В основе этого механизма:
• Психологический прием «холодное чтение».
• Манипуляционный «Эффект Барнума/Форера» (эффект субъективного подтверждения).
«Холодное чтение»
Холодное чтение (cold reading) — в англоязычной литературе набор приёмов, которые используют менталисты, экстрасенсы, гадалки, медиумы и иллюзионисты, чтобы создать видимость того, что они знают о человеке гораздо больше, чем есть на самом деле.
«Холодное чтение» выходит за пределы обычных инструментов манипуляции, таких как внушение и лесть.
Человек, практикующий холодное чтение, может получить большое количество информации о субъекте, о котором он до этого ничего не знал. Это делается при помощи анализа языка тела, возраста, стиля одежды, причёски, пола, сексуальной ориентации, религии, расы или этнической принадлежности, уровня образования, манеры речи, места происхождения и т. д. Практикующие холодное чтение обычно используют догадки, которые имеют статистически высокую вероятность оказаться верными, быстро корректируя свои предположения в зависимости от реакции субъекта, на котором используется эта техника. Если догадка оказалась неудачной, то внимание переносится на другую тему, тогда как на верной догадке внимание заостряется.
Комбинируя технику холодного чтения с тем, что удалось узнать о человеке до сеанса (так называемое «Горячее чтение»), можно произвести очень сильное впечатление.
«Эффект Барнума/Форера»
«Эффект Барнума/Форера» - общее наблюдение, согласно которому люди крайне высоко оценивают точность таких описаний их личности, которые, как они предполагают, созданы индивидуально для них, но которые на самом деле неопределённы и достаточно обобщены, чтобы их можно было с таким же успехом применить и ко многим другим людям.
Это когнитивное искажение заставляет нас верить:
- в умно звучащие и допускающие многозначную трактовку расплывчатые формулировки,
- когда они будто бы специально сформулированы и нюансированы именно под нас,
- и мы слышим их от, якобы, авторитетных специалистов.
публикуется с согласия автора - https://evan-gcrm.livejournal.com/1631251.html