Как искусственный интеллект может внедриться в информационное поле.
Генеративные модели ИИ уже научились создавать убедительные тексты, изображения, видео и звук. Следующий шаг — объединение таких моделей в мультиагентные системы для скоординированного управления информационной (или дезинформационной) кампанией. Представьте сеть из множества специализированных ИИ-агентов: одни анализируют тренды в социальных сетях, другие генерируют новостные статьи или посты, третьи — создают фейковые фотографии или видео, а четвёртые — управляют тысячами аккаунтов для распространения такого контента. Подобная система способна работать практически без вмешательства человека, непрерывно адаптируя нарративы под целевые аудитории.
Александр Яковенко
Руководитель комитета по глобальным проблемам и международной безопасности научно-экспертного совета Совета Безопасности РФ
Гиперперсонализация, характерная для сегодняшнего интернета, делает дезинформацию особенно эффективной. С помощью больших данных и вычислительной социологии злонамеренные акторы могут сегментировать аудиторию по десяткам признаков — от политических взглядов до личных страхов. Все элементы — текст, изображение, звук — можно синтезировать под индивидуальный психологический профиль. В результате возникает синтетическая версия «правды», убедительная и практически неотличимая от органического контента.
Генеративный ИИ вместе с данными соцсетей может стать отличным инструментом массовой дезинформации, способным адаптироваться и учиться на реакциях людей в режиме реального времени. Масштаб и скорость такого воздействия беспрецедентны, и традиционные методы опровержения фейков просто не успевают среагировать.
Конечно, развиваются и технологии противодействия дезинформации. Одно из ключевых направлений — маркировка контента, то есть явное обозначение материалов, созданных ИИ, или материалов, достоверность которых не подтверждена.
Еще один подход — внедрение цифровых «водяных знаков» в синтетический контент. Современные методы позволяют добавлять в текст или изображение скрытые паттерны, незаметные для человека, но определяемые алгоритмами.
Но все же важную роль в противодействии дезинформации играют журналисты и специалисты по проверке фактов, вооружённые специализированным ИИ. Возникает гибридная модель: естественный и искусственный интеллект. Автоматизированные системы мониторинга могут круглосуточно сканировать информационные потоки, отмечая всплески аномальной активности (например, сотни одинаковых сообщений с новых аккаунтов) или новые вбросы на известных дезинформационных площадках. Затем аналитики-люди проверяют отфильтрованные алгоритмом случаи, используя традиционные методы журналистики. Такой симбиоз ускоряет разоблачение фейков.
В России, и это очень важно, приоритетом становится развитие передовых технологий, прежде всего искусственного интеллекта (ИИ). Важная задача — не допустить значительного отрыва от США и Китая в создании ИИ, а в перспективе — AGI (Общий ИИ). Технологическое лидерство, вне всякого сомнения, обеспечит этим странам долгосрочное доминирование в глобальном информационном пространстве со всеми вытекающими для России последствиями. Поскольку обучение ИИ требует масштабных массивов данных, в которых уже могут присутствовать политические и культурные предвзятости, перспективным видится сотрудничество отечественных разработчиков с российскими информационными компаниями, обладающими проверенными и репрезентативными базами данных. Этим уже активно занимаются в США, превращая известные платформы искусственного интеллекта в новые средства массовой информации.
Больше новостей читайте в нашем телеграм-канале @expert_mag
Автор: Александр Яковенко
Материалы по теме:
- Бумага всё стерпит. Какие риски несет в себе цифровизация госуправления
- Искусственному интеллекту требуется смена идеологии. Как партийные разногласия влияют на языковые модели
- Интеллектуальная революция. Как развитие ИИ трансформирует маркетинг
- Интеллектуальное равновесие. Как формируется национальное лидерство в области ИИ
Все материалы «Эксперта» на expert.ru