Ожидания и реальность
Помните, как в фильме «Три мушкетера» лакей Ла Шене говорит королю:
— Сир, вы прекрасны!
Общаясь с ИИ, я наконец поняла, что его стиль мне смутно напоминает именно эту сцену из фильма.
У вас не возникало такого ощущения?
Всё-то у него прекрасно, гениально да оригинально.
«Какая классная презентация! Особенно вот эта мысль! Она точно произведет впечатление на аудиторию!»
А появись-ка с этой презентацией перед живыми людьми.
И где ожидаемый восторг? Где аплодисменты? Непонятно!
Что ты чувствуешь? Может быть, разочарование в техническом прогрессе?
Со временем я поняла: проблема не в том, что ИИ льстит. Проблема в том, что мы принимаем его доброжелательность как техническую настройку за что-то своё, глубоко человеческое...
В чем подвох?
Итак, почему ИИ дает нам позитивную оценку, которая потом не работает в реальной жизни?
Причин, на мой взгляд, три.
Первая причина. ИИ оценивает текст (цифры, графики и пр.), а люди оценивают человека
Нейросеть делает то, что вообще может делать программа на нынешнем уровне развития: оценивает логику, аргументы и формулировки.
А люди — нет.
Люди придирчиво смотрят на вас, на ваше состояние, тон голоса, тембр, напряженность дыхания, скованность движений, улыбку, одежду, прическу. А может быть, даже улавливают феромоны смущения или уверенности.
Плюс кто-то не выспался, кто-то вас недолюбливает, кто-то завидует, кто-то не успел пообедать. И лишь потом, если повезет, обращает внимание на содержание презентации.
Можно сказать, что нейросеть исходит из образа идеального слушателя, который полностью сосредоточен на логике и фактах. Но такого слушателя в реальном мире почти не существует.
При этом мы воспринимаем ответ нейросети так, будто то же самое сказал живой человек — например, коллега Ваня, который хотя бы примерно представляет себе контекст.
Поэтому оценка ИИ — не лесть. Это следствие его технических ограничений. И одновременно — наших завышенных ожиданий. Ведь в общении он так похож на человека.
Вторая причина. Мы принимаем вежливость за одобрение
Обратите внимание — я сейчас говорю о самых распространенных моделях с базовыми настройками — тех, которыми пользуется большинство людей.
Есть одна принципиальная разница между ИИ и человеком.
Вежливость и доброжелательность — это настройка системы.
Человек же реагирует не только на нас, но и на наши поступки.
Каким бы близким другом он ни был, если вы сделаете что-то, что ему не нравится, он хотя бы нахмурится.
Поэтому пользователь легко начинает воспринимать доброжелательный стиль ИИ как положительную оценку своих действий.
Представьте девочку, которая спела караоке. Система сообщает: «Ты — рок-звезда!»
Девочка покупает билет и едет на телевизионный конкурс.
Смешно, правда? Но мы примерно в том же положении, принимая похвалу ИИ.
Проблема не в том, что система хотела ее обмануть. Просто мы приняли стиль общения за экспертное заключение.
Третья причина. Люди сами выбрали именно такой ИИ
Это, пожалуй, самая интересная причина.
Почему ИИ вообще изначально сделали таким «вежливым»?
Потому что до запуска тысячи людей оценивали ответы модели. И именно конструктивные, позитивные и поддерживающие ответы получали самые высокие оценки.
Иначе говоря, позитивный стиль — это сознательный выбор самих пользователей еще на этапе обучения системы.
Но есть и второй аспект.
Большинство пользователей прекрасно знают, как получить более объективную оценку.
Достаточно попросить:
«Теперь покритикуй меня».
«Найди слабые места».
«Попробуй разрушить мои аргументы».
Но именно такие запросы люди задают гораздо реже.
Гораздо приятнее услышать:
«Отличный текст!»
И сразу отправить его в работу.
Получается любопытная вещь.
ИИ неожиданно закрыл очень важную человеческую потребность — потребность в безопасном одобрении.
Это дает небольшой дофаминовый эффект.
И, честно говоря, я не считаю, что это всегда плохо.
Есть люди, которые действительно делают хорошие вещи, но постоянно сомневаются в себе. Для них такая поддержка может оказаться полезной.
Возможно, это как раз мы с вами? :)
Хотя чаще бывает наоборот.
Что можно сделать?
Если вспомнить пример с презентацией из начала статьи, точнее, с ее фиаско, решение проблемы довольно простое.
Во-первых, нужно попросить ИИ посмотреть на материал максимально придирчиво. Поискать слабые места, спорные тезисы и затянутые фрагменты.
Во-вторых, рекомендуется подробно описывать контекст.
Например:
«Начальник относится ко мне настороженно».
«Эта тема всегда вызывает у него раздражение».
«Доклад будет после обеда... хотя нет, кафе в этот день закрыто».
Правда, если аудитория останется голодной, боюсь, не поможет даже искусственный интеллект.
Попробуйте купить печенье (это лайфхак).
А что бы сказал на это старина Фрейд?
Думаю, он посмотрел бы в зеркало и произнес:
— Зигмунд, вы гениальны! И зря неблагодарные потомки столько лет склоняют ваше честное имя!
Если же серьезно, то в ситуации с лестью ИИ можно увидеть несколько известных психологических механизмов.
Конечно, в данном случае это скорее интеллектуальная игра, чем попытка буквально пересказать взгляды Фрейда.
Итак, что за механизмы?
Отрицание. Если мы сомневаемся в своей работе, а ИИ говорит: «Все отлично», мы охотно принимаем именно эту версию.
Нарциссизм. Нам приятно получать подтверждение собственной компетентности.
Регрессия. Иногда очень хочется, чтобы рядом оказался доброжелательный взрослый, который просто скажет: «Ты молодец».
И вдруг эту роль начинает играть чат-бот.
Получается любопытный парадокс.
При тестировании (когда ИИ создавался) люди проголосовали за одобрительный стиль ответов.
После появления ИИ на рынке пользователи тоже сознательно выбирают одобрительные ответы и избегают критики.
Похоже, механизмы человеческой психики, которые описывал Фрейд, прекрасно чувствуют себя и в эпоху искусственного интеллекта. Так же, как, собственно, и во времена Людовиков.
Послесловие
Возможно, через несколько лет все будет иначе.
ИИ станет нашим постоянным «карманным» спутником. Ему ничего не надо будет объяснять. Он будет анализировать тон голоса начальника, выражение лиц коллег, наш пульс, дыхание, уровень стресса и даже запах кофе в переговорной.
Тогда его советы станут гораздо более практичными.
А сможет ли человек преодолеть зависимость от похвалы и боязнь критики?
Полностью, конечно, нет. Уж сколько раз твердили миру... Но, наверное, к похвалам ИИ мы постепенно начнем относиться примерно так же, как король относился к словам Ла Шене?
Что касается меня, я буду с теплотой вспоминать первые версии нейросетей.
Потому что никогда еще меня столько не хвалили.
И вообще... почему люди такие жестокие? Почему они не могут жить в любви и согласии, как нейросети?
Но это уже совсем другая история...