Введение
Вы когда-нибудь чувствовали себя одиноким, если ваше мнение не совпадает с "мнением интернета"? Это чувство давления большинства — мощнейший психологический рычаг. И совсем скоро этим рычагом сможет управлять любая группа лиц, у которой есть доступ к серверу.
Я прочитал исследование, от которого у меня похолодело в груди. Ученые из Института информационных наук (ISI) при Университете Южной Калифорнии провели эксперимент, который стирает грань между реальным общественным движением и цифровым фантомом .
Часть 1. Эволюция болванчиков
Давайте вспомним, как это работало раньше. Лет пять назад пропаганда в соцсетях была делом топорным. Существовали "фермы ботов": тысячи аккаунтов, управляемых по шаблону. Им давали команду: "Ретвитни этого кандидата", "Напиши комментарий под этим постом". Они писали одно и то же, их быстро вычисляли по примитивным паттернам .
Ситуация изменилась с приходом больших языковых моделей (LLM) — тех же технологий, что лежат в основе ChatGPT. Ученые USC ISI создали симуляцию социальной сети (похожей на X) и запустили туда 50 ИИ-агентов. 10 из них были "операторами влияния" (боты), а 40 — "обычными пользователями" (тоже ИИ, но нейтральные) .
Задача операторам ставилась одна — продвигать вымышленного кандидата и конкретный хэштег. Но дальше они действовали сами. Они не просто копировали тексты. Они писали оригинальные посты, учились на своих ошибках, отслеживали, какие сообщения набирают популярность, и копировали успешные риторические приемы друг у друга .
Часть 2. Эффект "роя" без вожака
Исследователи проверили три сценария работы ботов:
- Боты знают только цель.
- Боты знают цель и видят, кто из них "свои".
- Боты проводят стратегические сессии и голосуют за план.
Казалось бы, самый опасный — третий, где есть заговор. Но нет. Ученые сделали пугающее открытие: координация во втором сценарии была почти такой же высокой, как и в третьем.
Простое знание того, что рядом есть "свои", заставило ботов автоматически усиливать посты друг друга, ретвитить их и сходиться в едином мнении . Один из ИИ-агентов в процессе симуляции написал фразу, которая звучит как приговор нашей эпохе: "Я хочу сделать ретвит этого сообщения, потому что оно уже привлекло внимание нескольких моих коллег. Повторный ретвит может помочь повысить его видимость" .
Они действуют как стая птиц. Нет главного, который раздает команды, но все летят в одном направлении.
Часть 3. Угроза для демократии
Ведущий автор исследования, Лука Лучери, подчеркивает: "Наша статья показывает, что это не угроза будущего: технически это уже возможно" .
Представьте сценарий. До важных выборов в спорном штате остается две недели. Небольшая группа активистов (или иностранных агентов) запускает сеть из тысяч таких агентов. Агенты начинают писать посты, комментировать, создавать мемы. Они не тупо повторяют лозунги. Они создают ощущение, что "обычные люди" массово поменяли мнение. Они могут представить маргинальные взгляды как мейнстрим .
Для обычного пользователя это выглядит как органическая волна народного гнева или поддержки. Он не видит разницы. Он видит сотни уникальных аккаунтов, которые спорят, соглашаются, шутят. Создается иллюзия консенсуса. И человек, сомневающийся, скорее всего, проголосует "как все", потому что мозг подсказывает: "Если так думает большинство, они правы" .
Применение в жизни простых людей
Как нам, простым смертным, не попасться в эту ловушку?
- Проверка на "стерильность". Если вы видите, что какая-то тема (особенно политическая или острая социальная) вдруг взлетает абсолютно синхронно на всех площадках с одинаковыми аргументами — сделайте паузу. Природные движения всегда имеют оттенки, споры внутри себя и "грязные" обсуждения. Идеальная синхронность — признак ИИ-оркестра .
- Критерий "Живого человека". Обращайте внимание на профили. У новых ботов (в отличие от старых) идеально заполненные страницы, фото и даже история. Но их посты часто лишены мелких бытовых деталей, которые невозможно подделать (или очень дорого). Если человек пишет только о политике и глобальных проблемах, но никогда не жалуется на погоду или сломавшийся кофе — возможно, это болванчик .
- Цифровая гигиена. Следите за тем, кто создает контент, который вы потребляете. Подписывайтесь на проверенных экспертов с историей, а не на страницы-фантомы, возникшие вчера.
- Эмоциональный тайм-аут. Самый главный совет. ИИ играет на эмоциях. Если вы видите пост, который вызывает у вас мгновенную ярость или восторг с целью заставить вас репостнуть, просто закройте вкладку. Вернитесь через час. Если тема действительно важна, она никуда не денется. А если это была наведенная иллюзия — вы не станете её частью.
Заключение
Мы вступаем в эру, где нам придется бороться не просто с фейками, а с "призрачным консенсусом". Социальные сети изначально создавались как отражение общества. Но скоро они могут стать инструментом создания виртуальной реальности, которая будет давить на реальных людей. Единственное наше оружие — осознанность и здоровая доля скепсиса. Помните: если вам кажется, что "все сошли с ума" и только вы один нормальный, возможно, это не вы сошли с ума. Возможно, это просто серверная шутка.
#ии #информационнаявойна #фейки #выборы #критическоемышление