Излишняя маркировка текстов грозит нам ростом доверия к разным фейкам

Недавнее исследование, результаты которого появились в издании Journal of Science Communication, подвергает сомнению пользу маркировки текстов, созданных нейросетями. Ученые пришли к выводу, что специальные отметки об искусственном интеллекте дают совершенно обратный эффект в эпоху цифровых технологий. Вместо того чтобы заставить читателей относиться к прочитанному с должной осторожностью, такие предупреждения повышают уровень доверия к выдуманным фактам и одновременно заставляют сомневаться в достоверных научных сведениях, сообщает New-Science.ru.

В специальном эксперименте приняли участие более 400 человек. Для них создали искусственную ситуацию, в которой они просматривали научно-популярные публикации в социальных сетях. Людям демонстрировали небольшие тексты, написанные в формате популярной китайской площадки Sina Weibo и сгенерированные при помощи системы GPT-4. Одна часть этих публикаций содержала абсолютно верные научные факты, а другая часть состояла из популярных псевдонаучных мифов и слухов. При этом над некоторыми текстами исследователи разместили хорошо заметную надпись: «Внимание: данный контент был идентифицирован как созданный искусственным интеллектом».

Читайте также:
● Водителям грозят суровые штрафы при поездке на дачу в новом сезоне

Итоги этого эксперимента выявили интересную закономерность, которую специалисты обозначили как эффект перекрестного влияния правды и лжи. Выяснилось, что когда подлинная информация имела пометку об авторстве нейросети, участники опроса оценивали ее как менее заслуживающую доверия по сравнению с точно такими же публикациями без каких-либо предупреждений. Однако в случае с недостоверными сведениями наблюдалась совершенно зеркальная картина. Выдуманные тексты, помеченные как работа искусственного интеллекта, казались людям более правдивыми, чем аналогичные фальшивые сообщения без специального ярлыка.

Создатели научной работы предполагают, что подобная реакция объясняется психологической особенностью восприятия или когнитивным искажением, известным как машинная эвристика. Людям свойственно думать, что компьютерные программы и алгоритмы являются более объективными и непредвзятыми по сравнению с живым человеком. Из-за этого отметка об использовании нейросетей срабатывает для читателей не как сигнал об опасности, а как показатель высокой технологической сложности и максимальной точности текста. Эта теория подтверждается и реальными наблюдениями в обычной жизни, поскольку пользователи интернета часто просят чат-ботов проверить различные факты и безоговорочно верят их ответам, даже если программа выдает ошибку.

Проведенное исследование также продемонстрировало, что подобная ловушка доверия безотказно работает даже среди тех людей, которые изначально относятся к современным технологиям с предубеждением. Несмотря на их общий скептический настрой, наличие предупреждающей маркировки все равно приводило к росту веры в дезинформацию, хотя этот эффект и проявлялся в несколько меньшей степени.

Полученные учеными данные имеют критическое значение для регулирования искусственного интеллекта и противодействия распространению ложных сведений. Специалисты предупреждают, что без дополнительных проверок обычная маркировка текстов создает у людей ложное ощущение полной объективности и мешает им самостоятельно проверять факты. Чтобы решить эту проблему, предлагается использовать комбинированные предупреждения. Например, добавлять к тексту уточняющие пометки о том, что представленные данные не подтверждались независимыми источниками. Все это подчеркивает необходимость переосмыслить то, как сигналы о происхождении информации влияют на наше восприятие в современном цифровом мире.

Читайте также:

● Где Страдивари брал дерево для своих скрипок?

● Испанский египтолог заявил, что пирамиды Гизы построила суперцивилизация

● Ученые заявили о происхождении человека от древнего одноглазого циклопа

● Исследователи раскрыли причину оледенения Земли длиной в 56 миллионов лет