Интересные вещи поведал Андрей Беловешкин
Что общего у СhatGPT и нарцисса или про разницу в системах и механизмах генерации текста и смысла. Наш мозг устроен так, что постоянно пытается просчитывать и планировать будущее, распознавать причинно-следственные связи, приписывать намерения и распознавать образы. Это побочный эффект его эволюции в социальной среде, ведь формируясь как инструмент кооперации и общения внутри тесной группы, теперь он служит нам как инструмент познания куда более сложных явлений.
Когда мы говорим про некий текст, то важно понимать, что его эмоциональное влияние на нас и его смысловая рациональность могут быть совершенно различными явлениями, как совпадающими, так и нет. Это как с сексом – удовольствие и репродукция могут быть связаны, а могут и быть поодиночке. С текстом тоже самое – он может иметь смысл, но не нравиться, может нравиться, но не иметь смысла, может не иметь ни смысла не вызывать эмоций или образов, может делать и то и другое.
Классический пример – это когда люди произносят речи, которые могут быть пылкими и грамматически правильными, но не иметь при этом смысла. При инсульте или травме мозга может развиться рецептивная афазия, когда сохраняется активная речь, быстрая и синтаксически правильная, но при этом совершенно лишенная смысла. Человек соединяет реальные слова в комбинации, не имеющие смысла в контексте. В более легких случаях развивается словесный салат (шизофазия) – случайный набор слов и фраз, случайно цепляющихся друг за друга (частый симптом шизофрении). Интересно, что словесный салат активно изучается и в программировании для описания текстовой рандомизации. Самое важное при этом, что говорящий не понимает бессмысленность сказанного им.
Также одним из речевых симптомов шизофрении и биполярного расстройства является «лязгание» (Clanging (or clang associations)). Это повторяющееся использование наборов слов, связанных семантично или фонетично без релевантного контекста, а также склонность к компульсивному рифмованию и аллитерации без логического контекста. Произносящий речь делает множество таких патологических ассоциаций. Маниакальные люди делают "clang-associations" в 10-50 раз чаще неманиакальных. Говорящий отвлекается на звук или значение своих собственных слов и уводит себя от темы, предложение за предложением, как будто это форма схода с рельсов.
Словесный салат также является характерным оружием нарциссов и абьюзеров. Это целенаправленно сбивающая с толку речь, наполненная круговыми рассуждениями, логическими ошибками, газлайтингом, ярлыками, абсурдом, фиксация на выиграл-проиграл, ярость и т.п. При этом речь может быть грамматически правильной, но не имеет смысла. Любопытно, что при старении речевые способности долгое время сохраняются, в то время как когнитивные способности снижаются.
Почему словесный салат может быть эффективным оружием? Дело в том, что наш мозг склонен искать и приписывать смысл, анализировать и искать взаимосвязи - и приписывать случайным словам смысл, который они не несут. Поиск же подобного в заведомом абсурде только перенапрягает мозг. Во время атаки абсурдом генерируется бред чтобы перезагрузить и обойти критическое мышление. Попытка понять бред приводит к тому что мы над этим думаем больше и следовательно сильнее подвергаемся пропаганде. И когда люди смеются мол дураки писали эту чушь – на самом деле дураками оказываются именно они. В художественной форме этот эффект описал Пелевин в повести «Зенитные кодексы Аль-Эфесби».
Таким образом это сама структура текста порождает в нашем мозге определенные эмоции и образы. Именно так музыкальное удовольствие базируется на предсказании и ожидании, регулируемых дофаминовыми отделами. Когда мы читаем текст или слушаем музыку, наш мозг постоянно генерирует ожидание следующего звука или слова и их совпадение-несовпадение порождает перепады дофамина. Это очень похоже и на базовый принцип ChatGPT - предсказание следующего слова. Именно поэтому ChatGPT может генерировать абсолютно убедительные тексты, еще более «человеческие», чем написанные самим человеком. Но эмоции и понимание находятся не в ChatGPT, а мы приписываем их ему сами. Это явление массовое – люди видят пирамиды на Марсе, лица в облаках, верующие находят образы святых где угодно. С текстами критичность восприятия куда хуже, чем с изображениями – так, огромное множество людей наделяет абсолютно ненаучные тексты научной значимостью и сакральным смыслом (вроде марксистов).
Греки видели особый смысл в пророчествах пифии, не так давно медиумы общались с духами путем генерации текстов спиритической доской, а мы чувствуем дыхание искусственного интеллекта в бормотании стохастического попугая, умело обрабатывающего массивы данных. Но эти эмоции и образы находятся в нас, а не в ChatGPT.
Способность эмоционально влиять может сделать ChatGPT идеальным оружием пропаганды. Ведь в эпоху постправды реальность куда менее важна, чем чем эмоции и личные убеждения. Здесь торжествует моральный релятивизм, а границы между истиной и ложью опасно размыты. Поэтому научный скептицизм и принятие реальность важны как никогда – для того, чтобы не обманывать себя, чтобы распознавать нарциссов и абьюзеров и не обманываться внешней привлекательной мишурой великолепной и эмоциональной бессмыслицы, не приписывая ей то, чего в ней нет.