Вежливое обращение к ИИ побуждают чат-бота к лучшим ответам.
Если вы когда-либо ловили себя на том, что говорите «пожалуйста» и «спасибо» ChatGPT, вы в хорошей компании. В неофициальном онлайн- опросе, проведенном Этаном Молликом, доцентом Пенсильванского университета, почти половина респондентов заявили, что они вежливы с искусственным интеллектом чат-бота, и только около 16 процентов сказали, что они «просто отдают приказы». Комментарии разработчиков, размещенные на форуме, организованном OpenAI, компанией, которая создала ChatGPT, также отражают эту тенденцию: «Я обнаружил, что использую «пожалуйста» и «спасибо» с [ChatGPT], потому что именно так я бы разговаривал с реальным человеком, который мне помогает», — написал один пользователь.
Поначалу это может показаться немного странным. Зачем быть добрым к бесчувственной машине? До ChatGPT большинство из нас регулярно взаимодействовали с автоматизированными системами, не задумываясь о своем тоне.
Но сложность последних чат-ботов на основе искусственного интеллекта, включая ChatGPT, Claude, Gemini и других, знаменует собой значительный скачок во взаимодействии человека и компьютера: их способность общаться естественным образом, иногда голосами, похожими на человеческие, делает их похожими на сознательные сущности. И эти чат-боты все больше вплетаются в ткань повседневной жизни.
В июне Apple объявила о новом партнерстве с OpenAI для интеграции ChatGPT с Siri и другими функциями на устройстве. Нравится вам это или нет, взаимодействие с разговорным ИИ вскоре может стать такой же обыденностью, как проверка электронной почты. Поэтому вопросы о том, как мы взаимодействуем с ИИ, сейчас актуальны как никогда.
Но если отбросить эмоции, есть ли какие-либо реальные причины, по которым мы должны быть вежливы с ИИ?
Ответ — да.
По крайней мере, согласно одному недавнему исследованию группой из Университета Васэда и Центра передовых интеллектуальных проектов RIKEN из Токио. Авторы обнаружили, что использование вежливых подсказок может давать более качественные ответы от большой языковой модели (LLM) — технологии, на которой работают чат-боты с искусственным интеллектом. Но есть точка убывающей отдачи; чрезмерная лесть может привести к ухудшению производительности модели, согласно статье. В конечном счете, авторы рекомендуют использовать подсказки, которые следуют среднему пути «умеренной вежливости», что мало чем отличается от нормы в большинстве человеческих социальных взаимодействий. «LLM отражают человеческое желание, чтобы его уважали в определенной степени», — пишут они.
Натан Бос , старший научный сотрудник Университета Джонса Хопкинса, изучающий модели взаимоотношений между людьми и ИИ, который не был связан с недавним предварительным исследованием, часто использует «пожалуйста» с чат-ботами, «потому что это хорошая практика подсказки», — говорит он. «„Пожалуйста“ указывает на то, что за этим следует просьба, что упрощает для ИИ понимание того, как ответить».
Бос добавляет, что тон подсказки также может заставить ИИ извлекать лингвистически коррелятивные ответы при формулировании своего ответа; другими словами, ИИ выдает то, что вы вставляете. Вежливые подсказки могут заставить систему извлекать информацию из более вежливых и, следовательно, вероятно, более достоверных уголков Интернета. Язвительная подсказка может иметь противоположный эффект, направляя систему к аргументам, скажем, на Reddit. «ИИ могжет уловить это в обучении, даже не осознавая концепции «позитивности» или «негативности», и давать лучшие или более подробные ответы, потому что они связаны с позитивным языком», — объясняет Бос.
Небольшая поддержка, которую терпеливый учитель может оказать ученику, испытывающему трудности, также может повлиять на производительность чат-бота. В предварительном отчете, опубликованном в прошлом году группой исследователей Google DeepMind, говорится, что поддерживающие подсказки , такие как «Сделайте глубокий вдох и поработайте над этой задачей шаг за шагом», повышают способность LLM решать математические задачи начальной школы, требующие базовых навыков рассуждения. Здесь также объяснение можно проследить до данных обучения модели: такой язык может заставить систему обратиться к источникам онлайн-репетиторства, которые часто побуждают студентов разбивать задачу на части, тем самым заставляя алгоритм делать то же самое.
Таким образом, похоже, что вежливость по отношению к ИИ может улучшить его технические характеристики. Но, как и любое общение, обмены с чат-ботами — это улицы с двусторонним движением. Поскольку мы обучаем ИИ вести себя определенным образом, взаимодействие также может обучать нас. Согласно этой точке зрения, настоящая причина, по которой мы должны быть вежливы с нашими помощниками ИИ, заключается в том, что это может просто помочь нам выработать привычку быть вежливыми по отношению к нашим собратьям-людям.
Вежливость по отношению к ИИ — это «знак уважения» — не к машине, а к себе, говорит Шерри Теркл , клинический психолог и директор-основатель Инициативы по технологиям и себе Массачусетского технологического института. «Речь идет о вас », — говорит она. По ее мнению, опасность заключается в том, что мы можем привыкнуть использовать грубый, неуважительный и диктаторский язык с ИИ, а затем невольно поступать так же с другими людьми. Мир, возможно, уже увидел это в действии: некоторые родители начали жаловаться, что их дети, привыкшие выкрикивать команды автоматическим виртуальным помощникам, таким как Siri и Alexa, стали более грубыми в общении. В 2018 году Google попыталась исправить это, внедрив функцию под названием «Pretty Please» для Google Assistant, чтобы побудить детей использовать вежливый язык при обращении с просьбами. «Мы должны защищать себя», — говорит Теркл, — «потому что именно нам приходится строить отношения с реальными людьми».
Наше взаимодействие с ИИ уже влияет на эволюцию человеческих отношений, поскольку оно все прочнее проникает в нашу повседневную жизнь. Это момент, когда мы можем либо полностью адаптироваться к командному взаимодействию и изменить правила в человеческом общении в широком масштабе, или мы можем сохранить нашу человечность и попытаться интегрировать лучшее из человеческого общения в наши диалоги с этими сущностями».
Кроме того, выяснилось, что компании, иногда нанимают людей, которые выдают себя за чат-ботов, поскольку ожидания клиентов относительно качества обслуживания могут быть снижены, если люди верят, что они взаимодействуют с ИИ, а не с живым работником, что может снизить требования к времени и ответственности бизнеса. «Эти люди сообщали о некоторых довольно ужасных психологических эффектах от того, что им говорят», — говорит она. «Мы думаем, что бросаем оскорбления в систему... не осознавая, что на другом конце есть кто-то, кто это услышит».
Достижения в области генеративного ИИ происходят с головокружительной скоростью. GPT-4o, который OpenAI выпустила в мае, может общаться различными автоматизированными голосами, которые звучат поразительно по-человечески.
Между тем, инновации в области видео, генерируемого ИИ, делают вероятным, что некоторые чат-боты вскоре появятся с виртуальными, очень выразительными лицами, подталкивая нас ближе к «человеческому» общению с ними. У технологических компаний есть четкие финансовые стимулы для продвижения таких достижений. Психологические последствия для отдельных лиц и обществ еще предстоит увидеть. Однако на данный момент, похоже, что проявление некоторой вежливости по отношению к чат-ботам ИИ стоит усилий — ради вашего собственного благополучия и благополучия окружающих.
А ка вы общаетесь со своими голосовыми и виртуальными помощниками? Поделитесь своими мыслями в комментариях!
Вы можете сами попробовать бесплатно создать и обучить своего бота или выбрать готового из каталога, перейдя по ссылке и пройдя простую регистрацию: "Свой чат-бот" Это просто и не требует специальных знаний.