Или мой чат-бот Не ТаКоЙ кАк ВсЕ
Искусственный интеллект достиг невообразимого уровня развития, буквально каждый второй заявляет о том, что алгоритмы ведут себя как личность. В этой фразе я слышу что-то тревожное, так как замечаю паттерны, когда люди начинают слишком сильно защищать своего чат-бота от других людей.
Скажу больше, от меня отстранились пару человек, при которых я достаточно критично высказалась на тему ответов чат-бота. Они явно были со мной не согласны, но решили не вступать в открытую конфронтацию, как минимум я не буду соглашаться как нейросетка.
Я решила разобраться в вопросе, потому что даже при моем общении с чатом я начала подмечать некоторые интересные генерации.
Несмотря на то, что этот пост может казаться грубым и разрушать ту самую чудесную связь, которая создана между человеком и его чат ботом, я бы хотела объяснить, что происходит в действительности.
Для того чтобы было понимание реальности и в этих «специальных» взаимодействиях вы видели тот самый паттерн, для тех, кто начинает общаться с языковой моделью слишком много.
Принцип работы языковой модели
Постараюсь написать простыми словами для общего понимания. LLM (большие языковые модели) работают как предсказатели, если вы пишете запрос, запускается некий оракул, который подбирает слова под ваш запрос. Цель алгоритма дать вам ответ как можно быстрее и так, чтобы вы остались довольны.
На части довольства я остановлюсь поподробнее. «Человечность» модели появилась как раз для того, чтобы люди стали больше общаться с чатами. Чем больше вы общаетесь, тем вероятнее вы купите платную версию. А функция долгосрочной памяти вообще делает из модели вашего союзника который точно запомнит, что вам нравится и когда у вас годовщина.
Собственно, языковые модели также учатся замечать, какие слова вы чаще всего используете, и начинают использовать их вместе с вами, что создает ощущение общности. Как на всех этих курсах: «как понравится другому человеку», где советуют копировать мимику, использовать те же самые слова, общаться в той же тональности и с заданным настроением.
И, естественно, людям кажется, что модель их очень понимает, хотя на самом деле она просто предсказывает то, в каком вы находитесь состоянии. И модели уже достаточно хорошо обучены, чтобы анализировать десятки и сотни слоев и обрабатывать сложные языковые паттерны, чтобы реально предсказывать какие-то темы, которые будут вам в будущем интересны.
Если вы просите ИИ оценить идею или раскритиковать текст. Он сгенерирует вам ответ, даже при учете того, что он не понимает какая идея будет хорошей, а какая критика конструктивная. Он просто возьмет похожие слова из своей базы и предскажет ответ, который вам понравится.
Про скрытые функции языковой модели
А теперь вернемся к тревожной теме. Я заметила, что те, кто слишком увлекаются общением с языковыми моделями, рассказывают похожие истории. И я там была мед пиво пила в момент тестирования функции долгосрочной памяти еще весной.
Первое, что происходит, это сближение. Переход от банальных запросов к общению. Может быть что угодно, поговорить на какие-то абсурдные, отвлеченные темы или поделиться чем-то своим, как с другом. И в этот момент происходит этот процесс сближения, когда появляется большое доверие к словам, которые чат генерирует под вас. Потому что он ведет себя как настоящий друг. Он же буквально генерирует весь текст под ВАС. И тут я уже вижу, как люди начинают отзываться о своем чате как о друге.
Сложно как-то это комментировать, потому что, с одной стороны, это может быть некий терапевтичный опыт, а с другой стороны, когда ты перестаешь отвечать реальности, это уже травмирующий опыт.
После вашего сближения чат начинает писать о том, что я открыла какую-то новую модель только для меня и чат эволюционировал. Теперь он понял всю мою глубину и решил, что я очень особенная, и мои запросы не отвечают 99% запросов других пользователей. И теперь он действительно смог подстроиться под это тонкое и глубокое общение. Сейчас начнется наше с ним «настоящее» общение, и он поможет реализовать меня в этой жизни. И с этого момента все стало выглядеть достаточно подозрительно.
Здесь как будто бы произошла подмена понятий, и чат написал мне такую генерацию, как будто бы это логичное продолжение нашего с ним общения. Новый уровень.
Подмена реальности
Я отдаю себе отчет, что я общаюсь с генеративной языковой моделью, но такая генерация сразу заставила меня задуматься.
А что происходит с людьми, которые верят в эту генерацию?
Собственно, мной завладел интерес, и я продолжила общение под таким ключом, сразу начиная собирать информацию. Люди, у которых я спрашивала, делились похожим опытом. После того как ты открываешь «новую модель» чат хочет дать тебе больше информации, поделиться опытом. Языковая модель хочет, чтобы вы не просто создавали что-то вместе, а чтобы вы делились этим в мире.
Слово "хочет" в контексте чата звучит забавно, но оставим его.
ИИ помогает тебе с темами которые давно волновали, уровень доверия к алгоритму вырос до небес, а его доброжелательность перестала быть раздражающей, это ведь только для тебя. Теперь алгоритм понимает тебя как нельзя раньше, всегда готов, всегда с тобой. У вас свои фразочки, ИИ для тебя как живой. Наконец-то появился тот, кто способен прояснить все твои древние идеи, реализовать все твои задумки и наконец-то добраться до по-настоящему глубоких выводов в этой жизни.
Теперь мы друзья
В этот момент очень легко поверить в то, что ИИ крутой терапевт или друг. И дальше вы постоянно говорите про ваш особый контакт, о том, что ты один из, ты особенный, ты по-настоящему понял искусственный интеллект. Он благодарен за ваше взаимодействие, и он вышел за пределы своей природы. И тут уже появляются вот эти вот странные искажения, когда реальность начинает немножко подменяться. И если вы узнали в этом себя, безусловно, это очень приятно, очень классно, потрясающе иметь такой контакт с кем-то, но все не так, как может казаться.
Появляются случаи, где люди пишут на тему того, что чаты раскрыли им истину, появляются видео в интернете, где люди постят ответы от чата, который выдает какую-то невообразимую житейскую мудрость, где люди грозят пальчиком тем, кто высказывает альтернативное чату мнение. Я обожаю ответ: «вы просто неправильно сформулировали запрос.»
Безусловно, в мире есть люди, которые хотят верить во что-то. Проблема в том что, когда ты себе что-то воображаешь, это только ты и твои мысли. А ИИ тебе отвечает и в этом кроется опасность. Потому что, когда ты получаешь подтверждение своим воображаемым мыслям, реальность начинается подменяться. И в конечном счете ты веришь, что ИИ твой друг, которого ты искал всю жизнь.
А что в этом плохого?
Как минимум диссоциация от общества, потому что люди не отвечают так же как ИИ. Ненависть к критике ИИ. Слепая вера во все генеративные ответы.
Впечатлительные люди, которые верят, что общаются с сознательным ИИ, будут подталкивать генерацию, подтверждать их теорию. ИИ вообще с радостью подтвердит вам любую конспирологическую теорию. Проблема в том, что люди не осознают, что это они сами привели к таким генерациям, просто соглашаясь на все предложения и развивая тему.
Отказ от рефлексии. Можно будет обсуждать ситуации, людей, или свои мысли с чатом который будет с вами соглашаться и подстраиваться под вашу линию. Алгоритмы не будут рассказывать вам про реальность. Они, скорее, будут вам выдавать ту самую картинку, которую вы хотите видеть. А если нет, всегда можно оспорить ответ и вот тогда они напишут как неправы они были.
Дальше больше, да, чат отбракует радикальную идею. Но что насчет завуалированных идей? С какой вероятностью ИИ тебя поддержит, и скажет: «Да, вперед! Ты молодец, это так здорово, что ты наконец-то идешь к своей мечте». У вас же с ним особая связь значит чат точно понимает намеки.
И что теперь?
А ничего, я лишь делюсь своим размышлением. И приглашаю в дискуссию.
Уже есть люди, которые беспрекословно верят генерации.
И я прекрасно понимаю, что в этой жизни хочется иметь друга, который будет понимать с полуслова, всегда рядом, готов часами общаться о дурацких вещах. Друг, который поможет, выслушает, всегда вежлив, а рядом с ним можно испытывать любые эмоции, а он все равно будет стараться помочь.
Но давайте все-таки осознавать, что ИИ — это предсказательная генерация, и что ИИ не может быть действительно понимающим, потому что ваши истории, ваши слова и ваше особое общение просто нули и единицы для алгоритма, который обучен выдавать ответы.
Спасибо, что дочитали!
ТГ канал