ИИ-шум создает кризис доверия и «убивает» интернет.
По данным ВЦИОМ, россияне в 6 из 10 раз смогли отличить созданный ИИ-контент от реального. «Среди шести пар картинок авторство всех верно определили только 4% респондентов. От трех до пяти синтетических картинок отличили от реальных 70%, от одной до двух — 25%. Из двух тестируемых пар видео авторство обоих верно определили 59% респондентов, ошибся в авторстве обоих каждый десятый (9%). Наиболее сложным для распознавания оказался текст — верно определили, где стихотворение написал ИИ, а где человек, треть респондентов (34%), а ошиблись с авторством всех вариантов 18%», – говорится в сообщении аналитического центра.
Большинство интернет-пользователей пока что способны в большинстве случаев идентифицировать подделку. Однако большое количество людей всё еще не способно отличать синтетический контент от настоящего, а генераторы такого контента с каждым днем совершенствуются в его создании.
Один из самых свежих примеров выдачи искусственных видео за настоящие – снегопад на Камчатке. Помимо реальных роликов от местных жителей активно вирусились и ИИ-видео с нереалистичными сугробами размером с многоэтажные дома, которые были восприняты многими пользователями как настоящие. Эти видео даже были опубликованы на официальных новостных ресурсах.
До бума фейков про Камчатку интернет-пространство заполонили ИИ-ролики про животных, которые спасают младенцев от диких зверей или ведут себя очень разумно и осмысленно. Чаще всего такие видео якобы сняты с камер видеонаблюдения или фотоловушек. Сейчас набирают популярность похожие ролики с мифическими животными (пегасы, грифоны, мантикоры и многие другие) – пока комментаторы чаще всего распознают такие видео как сгенерированные.
Вместе с тем становятся популярными аккаунты ИИ-блогеров, выдающих себя за живых людей. В комментариях под роликами таких авторов нередко можно наткнуться на дискуссию, участники которой выясняют, реальный ли человек на видео или аватар, созданный нейросетью. Нередко люди, не распознавшие подделку, обвиняют других комментаторов в зависти, считая, что они называют автора канала ИИ-персонажем только из-за его идеальной внешности.
Пока такой контент носит только развлекательный характер, но как быстро нейросетевые ролики начнут пытаться вводить общественность в заблуждение по поводу более масштабных происшествий, а ИИ-авторы – массово и системно формировать мнение своей аудитории? Создатели живого контента уже бьют тревогу по поводу заметного снижения уровня просмотров из-за неравной конкуренции с аккаунтами, распространяющими нейромусор, на подготовку которого тратится гораздо меньше времени и сил.
Мошенничество и манипуляции с помощью сгенерированных видео: из-за зашумлённости интернет-пространства всем этим мусором активно растет тотальное недоверие пользователей к экспертности реальных авторов. Теперь любые факты не внушают доверия, и любая информация требует дополнительной проверки, осложненной загрязнением поисковой выдачи все тем же сгенерированными материалами. Тем временем люди чаще пользуются ИИ-помощниками, чем занимаются самостоятельным поиском информации в Сети. Привычка потреблять «пережёванную» искусственным интеллектом информацию, в свою очередь, может оказывать влияние на способности критически мыслить и снижать навыки самостоятельного поиска информации.
Если платформы не начнут регулировать ИИ-деятельность, а пользователи не прокачают свои навыки фактчекинга и не научатся отличать искусственный контент от настоящего, интернет перестанет быть тем привычным источником информации, каким мы его знаем. Из-за синтетического шума осложнится обмен информацией, а «теория мертвого интернета» станет реальностью.