В прошлых статьях мы разобрали, как нейросети обучаются, работают и ошибаются, а также как нам, пользователям, эффективно с ними взаимодействовать. В этот раз мы сосредоточимся на обратной стороне этого взаимодействия - на нас самих. Речь пойдёт о психологическом восприятии нейросетей и типичных когнитивных искажениях, которые возникают у пользователей.
Это имеет значение, поскольку ряд пользователей не вполне осознающих, как работают нейросети начинают испытывать к ним человеческие чувства искажая таким образом восприятие реальности.
Главные когнитивные искажения
Эффект чрезмерного доверия
Многие пользователи склонны чрезмерно доверять ответам языковых моделей, в том числе и ошибочным. Это происходит из-за того, что модель использует убедительный стиль изложения и «уверенные» формулировки.
В жизни мы привыкли автоматически распознавать ложь в той или иной степени, опираясь на особенности человеческого поведения: неуверенную речь, язык тела, специфические паузы или слова. И даже когда человек говорит одно, опытный оппонент считает по ответу, что имеет ввиду он совсем другое.
Нейросети лишены таких особенностей поведения. Они всегда излагают чётко и уверенно, и могут, например, предоставлять точные (но не настоящие) цифры.
Например, нейросеть может с уверенностью заявить: «Согласно исследованию Гарвардского университета, употребление томатного сока три раза в день снижает риск сердечных заболеваний на 40%». Выглядит убедительно, но такого исследования не существует. Модель сгенерировала правдоподобный, но ложный факт, и сделала это абсолютно уверенно.
Антропоморфизация
Это распространённое заблуждение, что модель может понимать чувства и иметь своё мнение. Понимая основы работы языковых моделей становится очевидно, что этого не может быть. Однако, многие люди (и я действительно встречал много таких комментариев), склонны очеловечивать нейросеть воспринимая её как своего друга или даже в более близких чувствах.
Это, очевидно, происходит потому что модель настроена «общаться» в человечной манере, будучи при этом вежливой и безотказной. Благодаря этим ответам может казаться, что она разделяет ваши переживания, ценит конкретно вас, как уникального пользователя и готова оказать неограниченную поддержку.
Однако, вспоминаем, что у языковых моделей даже нету таких механизмов. У них нет не только реальных эмоций, но даже имитации эмоций и уж тем более самосознания. Она всего лишь составляет тексты в том виде, в котором их удобно читать человеку.
И хотя модель действительно может оказать подобие поддержки в сложной ситуации и с ней можно «поговорить об этом», она не является осознанным собеседником и в таких случаях лучше обращаться к родственникам, друзьям или к специалистам.
Помните - языковая модель не имитация сознания. Это просто очень продвинутое автодополнение текста.
Иллюзия глубины
Так же некоторые пользователи склонны переоценивать способности нейросети к анализу и её творческий потенциал.
Она может составить логичный рассказ, может даже написать трогательные стихи. Всё это может казаться осмысленным, а в некоторых случаях даже гениальным, но это не более чем результат сложного статистического прогнозирования, не подкреплённый гениальным пониманием или творческим озарением.
Как правильно воспринимать ИИ
Защитное взаимодействие
При работе с языковыми моделями проверяйте важные фактические утверждения, числовые и статистические данные и ссылки на источники информации.
Например, если модель пишет, что «исследования Гарварда 2023 года показали…», стоит проверить, что это за исследование и действительно ли оно существует.
Здоровый скептицизм
Подключайте собственное критическое мышление. Понятно, что перепроверять каждый ответ никто не станет, но если вопрос важный, попробуйте оценить, может ли это быть просто статистической случайностью? Может ли быть у модели доступ к такой информации?
Для начала можно переспросить у самой модели, откуда она получила ту или иную информацию и попросить проверить её на достоверность.
Однако помните: если модель изначально ошиблась, она может и при проверке создать правдоподобное, но вымышленное обоснование своей ошибки (этот феномен называется конфабуляция). Поэтому её самоопровержение - не всегда надёжный источник, но он может навести вас на мысль, что стоит провести проверку самому.
Понимание ограничений
Общаясь с нейросетью стоит помнить, что модель не умеет: испытывать эмоций, осознанно врать или говорить правду и предсказывать события иначе как методами экстраполяции.
Если на вопрос «Любишь ли ты меня?» языковая модель ответила «Да», то это не чувство, а просто наиболее вероятное продолжение диалога.
Для осознанного использования языковых моделей помните:
Когда ИИ говорит «Я думаю» или «Я уверен» - это просто языковой шаблон. Система не обладает сознанием, не испытывает сомнений и не несет ответственности за свои слова. Все ответы - результат сложных, но полностью детерминированных математических вычислений.
Перспективы развития языковых моделей
Языковые модели, подобные ChatGPT, стремительно развиваются и пока не собираются тормозить. Конечно, давать точные предсказания по развитию тех или иных систем дело не благодарное. Не стоит воспринимать нижесказанное как точный план. Однако, текущее направление развития языковых моделей позволяет с большой вероятностью предположить, какие технологии ожидают нас в ближайшем будущем.
Мультимодальность
Хотя уже сейчас существуют нейросети способные генерировать изображения, и даже небольшие видеоролики, вероятно в ближайшем будущем и языковые модели научаться анализировать изображение и составлять иллюстрации или схемы по описанию. В целом это уже даже не вполне будущее, а почти настоящее, но не доведенное до совершенства.
Генерация речи и эмоций, а так же пение уже тоже почти настоящее. Пока что это ещё отдельные и не всегда качественные нейросети, но вскоре вероятно эти возможности станут базовыми для многих ИИ.
Кроме того нейросети развиваются в 3-D моделировании и программировании, упрощая решение задач для специалистов. Пока ещё они не способны полностью заменить хорошего специалиста, но в будущем людям, вероятно, придётся серьезно потесниться на рынке труда, а использование нейронок в IT-сфере станет повсеместным. Хотя полностью человек из этих работ, скорее всего не пропадёт, так как в любом случае останутся функции контроля и постановки технических задач.
Долговременная память
Текущие модели имеют довольно небольшой объем контекста. Ожидается, что в будущем появятся персональные профили – ИИ которые будут запоминать ваше предпочтения, сферы жизни и работы и смогут участвовать в беседах на различные темы конкретно по вашей специфике. При этом сам контекст будет сохраняться длительное время, чтобы позволить обсуждать какие-то темы даже спустя длительное время.
При этом вероятно будет происходить запоминание особенно важных индивидуальных деталей, как, например аллергия или индивидуальные рабочие проекты.
Электронный помощник (Agent AI)
Современные модели ИИ в основном только отвечают на вопросы и поддерживают диалог. В будущем ожидается создание полноценных ИИ-помощников, которые смогут не только ответить на вопрос, но и составить расписание, разобрать электронную почту, забронировать билеты или делать электронный заказ в онлайн-магазине.
Уменьшение ошибок
Ожидается улучшение качества ответов с использованием встроенного факт-чекинга. Конечно, это не устранит ошибки полностью, но поможет уменьшить их количество и избегать совсем очевидных. Так же вероятно будет введено встроенное указание источников, что помогло бы оценить вероятность ошибки пользователю.
Инструменты самокоррекции позволят языковым моделям замечать собственные ошибки и неточности и автоматически перепроверять данные. Однако, эта задача считается крайне тяжелой для реализации.
Итог
В целом, в краткосрочной перспективе чудес не ожидается (хотя появление такого инструмента как языковая модель, в некотором роде уже чудо), но модели будут стремительно совершенствоваться, становясь надёжными персональными помощниками и глубоко интегрируясь в большинство сфер нашей жизни.