По искусственному велению, по интеллектуальному хотению
В начале декабря уже уходящего 2025 года журнал Nature опубликовал сразу две статьи, которые нас не просто заинтересовали. Дело в том, что на рядовую научную публикацию они похожи не были, а скорее на предупреждение. Речь идёт о том, как современный ИИ (LLM) может влиять на политические взгляды людей. А вернее, как он влияет уже сейчас. Вы должны понимать, что ИИ уже стал для многих людей частью ежедневной рутины, и у нас уже давно стоит вопрос о том, могут ли чат-боты влиять на взгляды людей. Влияют, теперь это факт.
Взаимодействие человека с AI-чат-ботами способно менять отношение к кандидатам и политическим вопросам, причём происходит это тихо, рационально и без привычных признаков пропаганды.
Оригинальная статья «Persuading voters using human–artificial intelligence dialogues» — полноценное исследование, которое провели в нескольких электоральных контекстах и зонах: США, Канаде и Польше. Участники случайным образом начинали общаться с ИИ, запрограммированным на поддержку конкретного кандидата. Результаты убили: после диалога у людей менялась готовность голосовать за того или иного кандидата. Эффект превосходил по результатам те, что обычно фиксируют в исследованиях политической рекламы и классических агитационных форматов. Куда важнее, что эффект был заметен не только у тех, кто слабо погружён в политику.
ИИ убеждал людей не через триггеры, страхи и давление, а через аргументацию, факты и логические связки. Тут уже попробуем объяснить мы: когда ИИ отвечает вам, он поддакивает, а ваши аргументированные ответы переворачивает как обоснованное сомнение. По логике, это должно снижать порог недоверия человека, и по своей сути это работает. Есть и нюанс — это точность: авторы отмечают, что достоверность фактов варьировалась в зависимости от политического направления позиции, которую продвигала модель, но убедительность при этом сохранялась.
Технологии, которые ещё недавно были нишевым инструментом энтузиастов, вдруг стали частью нашей повседневной жизни. ИИ будет влиять на фундаментальные процессы, на институты и на наше мышление, включая формирование политических, религиозных и других взглядов. И в этом есть проблема. Распространение неточной, фейковой и односторонней информации — это большой риск.
Если обобщить оба текста, то ИИ не промывает мозги, и вообще термин «промывка мозгов», как факт, очень сомнительный. ИИ снижает наше сопротивление. Дело сразу в нескольких факторах восприятия, так как мы воспринимаем диалог как рациональный, безопасный и вообще нейтральный. Чат-боты и ассистенты уточняют, соглашаются, подсовывают аргументы и дискутируют, делая запрограммированную идею логичным продолжением ваших собственных мыслей. В результате вас не убеждают, меняется вероятность выбора. Конечно, ИИ не заменит политиков, он займет пространство, где формируется мнение. И он уже это делает, так как человек перестаёт искать статьи и думать, он задаёт вопросы ИИ, чтобы получить готовый ответ.
Отсюда появляется теоретическая мысль о том, что государство и корпорации, которые и так повязаны между собой, будут ещё плотнее связаны системой давления, стимулов и ограничений. То есть, условно, государство в целях «безопасности» может сужать допустимый дискурс. В общем-то, как государства это делают сейчас. Минимизация рисков для древнейших политических мамонтов и белых воротничков. Небольшое смещение тона не будет заметно для сомневающейся аудитории, как добавление подсластителя вместо сахара в классическую колу. ИИ просто будет избегать определённых формулировок. Это и есть та бездна, которая находится между регулированием и попыткой незаметного влияния.
Если что, это не какая-то прямая вау-сенсация. Мы просто фиксируем для вас этот факт. И пока что ни политики, ни общество не умеют работать с этой силой. А сила полуправды и постправды, которую большинство, вероятнее всего, фильтровать не будет, почти магическая, потому что она меняет мнение, не вызывая никакого сопротивления.
