Искусственный интеллект все активнее входит в повседневную жизнь, но одна деталь пока ускользает от большинства людей: они почти не умеют распознавать тексты, созданные нейросетью. Причем речь не только о рабочих письмах или шаблонных ответах, а о вещах, которые обычно считаются личными и эмоциональными, — поздравлениях, извинениях, словах благодарности.
Новое исследование американских психологов показало довольно неприятную вещь: люди не замечают ИИ в сообщениях, если им прямо об этом не сказать.
Сообщение кажется искренним, пока не раскрыт его источник
В исследовании приняли участие более 1300 человек в возрасте от 18 до 84 лет. Ученые провели два эксперимента, чтобы понять, как люди воспринимают личные сообщения, если считают, что их написал человек, искусственный интеллект или если вообще не знают, кто автор.
Добровольцам показывали тексты, стилизованные под обычную переписку: например, письмо с извинением или благодарностью. После этого участники оценивали отправителя — насколько он искренний, внимательный, добросовестный и вообще вызывает ли доверие.
Схема была простой, но показательной. Одним участникам не сообщали ничего об авторстве текста. Другим говорили, что сообщение точно написал человек. Третьим — что его сгенерировал ИИ. Четвертым — что происхождение текста неизвестно.
Один и тот же текст — но реакция разная
Если участники знали, что сообщение было создано ИИ, они начинали воспринимать отправителя заметно хуже. В их глазах он выглядел менее искренним, менее заботливым и менее вовлеченным. Иными словами, сам факт использования нейросети снижал социальную оценку.
Причем проблема была не в качестве текста.
Когда тот же самый текст представляли как написанный человеком, реакция менялась на противоположную. Сообщение казалось искренним, а его автор — внимательным и благодарным.
- Получается любопытный эффект: текст сам по себе может восприниматься нормально, тепло и убедительно. Но стоит только приклеить к нему ярлык «создано ИИ», и вся магия моментально рассыпается.
Люди почти не подозревают, что текст мог написать ИИ
Самым интересным для самих исследователей оказался другой вывод. Когда участникам вообще ничего не говорили об авторстве, они в большинстве случаев воспринимали сообщение как человеческое. Причем оценивали его почти так же, как и тексты, которые им прямо представляли как написанные человеком.
То есть у людей по умолчанию почти нет внутреннего скепсиса. Наоборот? читатели автоматически предполагают, что за текстом стоит живой человек.
Это особенно занятно на фоне того, насколько часто сегодня обсуждают ИИ, его возможности и угрозы. Кажется, будто все уже настороже. Но на практике, когда дело доходит до обычной переписки, этот радар почти не срабатывает.
Даже активные пользователи ИИ не научились его вычислять
Исследователи также проверили, влияет ли собственный опыт общения с нейросетями на способность распознавать их тексты. Логика подсказывала, что люди, которые часто пользуются генеративными моделями, должны быстрее замечать характерные интонации, шаблоны и гладкость таких сообщений.
Но и тут реальность оказалась упрямее ожиданий. Те, кто использовал ИИ регулярно — хоть в работе, хоть в быту, — почти не отличались от остальных. Да, они были чуть менее критичны к самому факту использования нейросетей, если об этом сообщалось прямо. Но лучше распознавать такие тексты не стали.
Иначе говоря, даже те, кто давно живет бок о бок с ИИ, все равно читают чужие сообщения так, будто их писал человек.
На первый взгляд может показаться, что это просто забавный психологический парадокс
Но на деле выводы исследования затрагивают довольно чувствительную зону — то, как люди вообще оценивают друг друга.
Переписка давно стала частью социальной навигации. По сообщениям судят о вежливости, внимании, эмпатии, уровне заинтересованности и даже о профессионализме.
- Если человек потратил время на вдумчивый ответ, это считывается как знак уважения. Если написал теплое поздравление — как признак вовлеченности. Если аккуратно извинился — как проявление зрелости и ответственности.
Но если все это легко воспроизводится машиной, а получатель не замечает подмены, письменная коммуникация перестает быть надежным сигналом. Мы по-прежнему читаем в тексте усилие и личное участие, хотя за ним вполне может стоять не человек, а хорошо обученная система.
Честность в этом случае наказывается
В исследовании особенно неприятно выглядит один вывод: использование ИИ само по себе не обязательно ухудшает впечатление о сообщении — ухудшает именно раскрытие этого факта.
Получается почти циничная картина. Тот, кто пользуется ИИ и не афиширует это, сохраняет все преимущества: текст выглядит гладким, уместным и «заботливым», а собеседник не испытывает подозрений. А вот тот, кто честно признается, рискует получить ярлык ленивого или неискреннего человека.
- Именно поэтому исследователи говорят о своеобразном репутационном штрафе за откровенность.
Не потому, что ИИ обязательно пишет хуже, а потому, что люди связывают личное сообщение с вложенным усилием. Если усилие, как им кажется, заменили машиной, отношение меняется почти мгновенно.
Если такие практики станут массовыми, сама ценность письменного общения может заметно измениться
Люди начнут меньше доверять сообщениям как признаку характера, намерений и отношения. Уже сейчас в некоторых сферах это видно довольно отчетливо.
Например, работодатели все скептичнее смотрят на сопроводительные письма и все чаще предпочитают опираться на рекомендации, реальные кейсы и живое общение.
Вероятно, со временем этот сдвиг только усилится. Чем проще станет делегировать «правильные слова» алгоритму, тем меньше эти слова будут значить сами по себе.