Сегодня ИИ всё чаще используют для анализа инфополя, мониторинга репутации, общественных настроений, рисков, кризисов. Руководителю показывают дашборд, графики, “фреймы”, “нарративы”, выводы. Возникает ощущение, что ситуация под контролем.
Но есть проблема, ИИ в таких задачах часто не измеряет реальность, а интерпретирует её с ошибками, которые сложно заметить без специальных процедур.
Недавно вышло научное исследование, в котором учёные проанализировали, как ИИ выявляет фреймы в текстах на разных языках за период почти 8 лет. Они взяли тысячи материалов на русском, французском, испанском и итальянском языках и сравнили два самых популярных подхода автоматического анализа.
Что такое фреймы и почему они важны
Фрейм — это не ложь и не факт. Это рамка интерпретации, т.е. на что обращают внимание, что считают главным, а что второстепенным.
Один и тот же факт можно подать как:
- угрозу
- оправдание
- неизбежность
- чужую вину
- внутреннюю проблему
Фреймы напрямую влияют на то, как люди и организации принимают решения.
Что показало исследование
Выводы оказались неудобными, но очень важными:
- Один и тот же инфоповод в разных языках подаётся по-разному.
Это не стилистика, а системное смещение акцентов под аудиторию. - Даже внутри одного языка (например, русского) фреймы меняются в зависимости от региона распространения.
То есть “единое информационное пространство” — иллюзия. - Два самых популярных метода ИИ-анализа фреймов часто не согласны между собой.
Они дают разные выводы на одном и том же тексте — особенно в мультиязычной среде.
Проще говоря, красивый ИИ-дашборд может показывать уверенные выводы, которые неустойчивы и не воспроизводимы.
Почему это проблема для бизнеса и государства
Потому что на основе таких систем сегодня:
- принимают решения в кризисных ситуациях
- оценивают репутационные и регуляторные риски
- формируют коммуникационную стратегию
- реагируют на общественное давление
Если ИИ ошибается, а ошибок никто не проверяет, руководитель управляет не ситуацией, а моделью.
Что с этим делать
Выход не в том, чтобы отказаться от ИИ. Выход — в управлении.
Минимум, который необходим:
- проверка моделей на собственных данных и языке
- использование нескольких методов и контроль расхождений
- чёткие пороги доверия к сигналам
- обязательный human-in-the-loop
- аудит источников и объяснимость выводов
ИИ в анализе общества и инфополя — это не просто технология.
Это инструмент власти над решениями, а значит он должен жить по правилам governance, а не “магии нейросетей”.