Исследуем вирусы… агрессии

Защита социальных сетей открывает безопасникам новые горизонты.

Информационная безопасность в социальных сетях – тема сравнительно новая. Но не неожиданная и уже достаточно разработанная. С 2018 года в ИПУ РАН при поддержке Российского фонда фундаментальных исследований ведётся работа над проектом с говорящим названием: “Разработка социо-киберфизической системы мониторинга разнородного интернет-контента в целях противодействия проявлению агрессии, давления и других форм деструктивного воздействия на индивидуальное и групповое сознание пользователей”. В проекте участвуют учёные из разных областей, от социологии до IT и медицины.

«Технологии подделки на коне»

О РАБОТЕ БЕЗОПАСНИКОВ

При реализации и внедрении социальных сетей существует несколько заинтересованных сторон, в том числе:

• Разработчики соцсетей и различных сервисов на их базе.
• Пользователи, которые во время пандемии стали уделять соцсетям больше времени.
• Аналитики, которые изучают опубликованные в сетях материалы для своих целей.

В соответствии с этими направлениями требуются специалисты по информационной безопасности, которые могут и должны на всех этапах жизненного цикла работы выполнять свои обязанности.

Разной информации стало больше, её нужно анализировать и обрабатывать. Ряд аналитических задач специфичны именно для специалиста по безопасности. Следует выделять как классические задачи по защите информации – обеспечение конфиденциальности, целостности и доступности информации в социальной сети, так и новые, в том числе проведение анализа и прогноза состояния социальной сети, её элементов и поведения участников информационного процесса. Анализу подлежат сообщения, связи, динамика коммуникационного обмена. Нужны толковые ребята и девушки, двоечники в таких постановках не слишком востребованы.

Социальные сети, конечно, будут бурно развиваться. Забот у ИБ-шников будет прибавляться. Это и традиционные (ключи, пароли, идентификаторы, вирусы, социнженерия и проч.), и постепенно появляющиеся новые сущности. Я бы выделил две важные, которые могут серьёзно повлиять на ландшафт ИБ-шных задач:

• биометрия;
• производство и распознавание фейков.

О ПРОБЛЕМАХ СОЦСЕТЕЙ

Если говорить про фейки, то сегодня хорошо видно, что технологии подделки голоса, фото, видео, авторского стиля текста и близкие к ним развиваются семимильными шагами. Технологии (и особенно их внедрение!) распознавания фейков тоже развиваются, но, на мой взгляд, пока заметно отстают.

Поэтому скоро в области ИБ будет интересная история!

Какие именно виды опасностей подстерегают общество в сети? По этому вопросу я бы предоставил трибуну социологам и психологам. Со своей стороны отмечу возрастающий объём информации, который циркулирует в социальных сетях, и необходимость реализации формализованных методов обработки информации применительно к ним.

О БЛОКИРОВКЕ TELEGRAM

Я достаточно далёк от этой проблематики, но как мне представляется, закон Яровой оказался в целом весьма полезен. Блокировка Telegram – это недальновидная глупость. Если бы после запрета последовали конструктивные шаги в рамках какого-то плана, тогда это можно было бы понять. А поскольку ничего нет, то и говорить не о чем.

По поводу разблокировки. Можно предположить, что пришли к какой-то договорённости. Возможно, «техническая невозможность» предоставлять ключи переписки Telegram по запросу госорганов стала менее абсолютной.

По тематике нашего проекта отмечу, что в Telegram способы проявления агрессии ограничены, так как использования чатов, где можно обсудить материалы канала, почти нет. Это тоже вопрос к социологам, только собственно агрессия кого-то одного – это его личное дело. Страшно, когда эта агрессия доводится до широкой аудитории и заражает её. По Марксу, идея становится материальной силой, когда овладевает массами. А у социальных сетей технические средства для этого как раз имеются.

Анастасия Исхакова, руководитель проекта

«Выявляем деструктивный контент»

О ПАНДЕМИИ

Никто не ожидал, что этой весной мы все останемся дома, но это случилось. Понятно, что интернет-трафик вырос в разы. При этом пользователи заметили, что популярные платформы подстроились под новый формат активности пользователей: ввели удобные интерактивные функции, дали возможность делать тематические отметки по ситуации в мире и т. д.

ОБ ОПАСНОСТЯХ

Что касается злоумышленников, то они всегда активно «работали» в соцсетях. В данной ситуации их можно разделить на подгруппы:

• Предлагают товары и услуги, например средства защиты, лекарства и даже вакцины (в целом изменился только сам «товар»).
• Делают ложные провокационные «вбросы» недостоверных общественно значимых новостей, которые сейчас называют фейками.

Так как распространение такой информации с 2019 года преследуется по закону, конечно, востребованность специалистов для поиска и установления нарушителей возросла на фоне пандемии и массовых фейков, целью которых являются паника, перевирание данных, пропаганда и подрывание доверия к органам власти.

Распространение недостоверных новостей происходит стремительно, лавинообразно, используются популярные мессенджеры. Именно в этом сложность поиска первоисточника – правонарушителя, который первым запустил недостоверный пост. Этим в том числе занимаются и специалисты в области ИБ. Также группы специалистов, включая и специалистов по ИБ, занимаются недопущением таких явлений в принципе – разрабатывают превентивные меры, которые не допустят фейки до пользователя.

В виртуальной среде пользователю может быть нанесён различный вред:

• Моральный – травля, унижение, агрессия, пропаганда, введение в заблуждение.
• Физический – последствие форм морального давления, проявляющееся в ухудшении физического состояния пользователя.
• Финансовый – попрошайничество, обманы, выведывание информации, взломы аккаунтов.

Каждый злоумышленник имеет собственную цель в виртуальной среде. Что касается первых двух пунктов, то борьба с ними сложна, так как и проявление такого вреда сложно формализуемо, слабо доказуемо и редко подвергается огласке. В нашем институте проводится сложная комплексная работа с привлечением специалистов в области социологии, психологии, медицины, математики, IT, одной из задач которой является автоматизация выявления фактов агрессии, давления, унижения в Интернете.

О ПРОЕКТЕ

Чтобы не терять пользователей и быть актуальными и востребованными, социальные сети подстраиваются под реалии общества. Наличие мошенников и злоумышленников нежелательно для ресурсов – это отпугивает людей и снижает доверие, поэтому многие соцсети разрабатывают и внедряют системы распознавания подозрительного поведения. Данное направление очень широкое, оно затрагивает много неправомерных, некорректных форм поведения, фильтрацию контента и т. д. Например, в рамках нашего проекта ведётся разработка актуальных интеллектуальных алгоритмов, выявляющих контент, деструктивно влияющий на состояние пользователя в Интернете, – это также является одним из направлений модернизации и развития социальных сетей. С применением машинного обучения мы создаём алгоритмы выявления различных видов контента, который может негативно влиять на состояние человека. Это и текст, и графические изображения, и звуковые потоки. Комплексный подход позволяет отрабатывать разнородный контент и выявлять искомые экземпляры.

Ирина Кулагина, социолог проекта, доцент кафедры философии и права СурГУ

«Речь идёт не о цензуре»

О ПРОБЛЕМАХ В ВИРТУАЛЬНОМ МИРЕ

В отличие от окружающего мира, где мы легко ориентируемся, в социальных сетях и мессенджерах нельзя определить не только то, от кого именно исходит та или иная информация, но и какова её социальная значимость и можно ли ей доверять. Допустим, вы видите человека определённого типа в определённых социальных условиях. Вы можете защититься от него так. Сказать: “Я игнорирую такой тип людей и любую информацию, идущую от него”. А в сети привычные маркеры идентификации отсутствуют, поэтому в любом случае придётся сперва прочитать текст (поскольку сразу не можете его отсеять). Это и есть главная проблема современных пользователей: социальные отношения есть текст.

Пользователю сложно определить, откуда исходит опасность/агрессия в Интернете, а также понять, выражает ли человек свою позицию либо чужую. Например, сейчас очень распространены обороты «как бы», «с высокой долей вероятности», «по оценкам экспертов» и т. п., которые отражают интенсивность воздействия на сознание пользователя сети. На самом деле сознание человека умеет исключать некоторые элементы из восприятия и тем самым изменять процесс понимания текста. И вот вы уже верите в эту информацию, игнорируя даже то, что она была подана как сомнительная.

Это значительная проблема, ведь не у всех есть навыки квалифицированной интерпретации текста, как и навыки критического анализа информации.

Есть такая разновидность мировоззрения – мифологическое. Это мировоззрение часто определяет сознание человека. В итоге мы не оцениваем достоверность аргументов, не ищем истину, а просто расфасовываем полученную информацию в две кучки: это похоже на то, что я уже знаю, совпадает с моей позицией, а это – нет. Так, вторую кучку наше сознание сразу с готовностью рассматривает как недостоверную, не требующую анализа, нелегитимную. И, поверьте, так действуют очень многие люди, ведь мифологическое мировоззрение есть у каждого, а противостоять его давлению надо ещё научиться.

Резюмируя главные проблемы, связанные с социальными сетями:

• Любая информация подаётся в чистом виде, иной раз она лишена даже редакции самим автором, и выглядит как поток чьего-то сознания. Часто информация в социальных сетях не подвергается модерированию, а значит, именно обыденному пользователю необходимо научиться её фильтровать и воспринимать.
• Проблема авторства источника информации и её достоверности. В электронной коммуникации чаще всего мы не имеем сведений об авторе сообщения и его целях, часто не владеем тезаурусом (предметным словарём), не можем понимать, о чём он говорит, а значит, привычно замещаем его высказывание своей интерпретацией. Это одна из проблем наших современников, игнорирующих чтение литературы, решение философских вопросов, ориентированных на чтение социальных стримов.
• Социальное давление, или проблема толпы. Ещё Гюстав Лебон писал, что человек присоединяется к мнению большинства, чтобы сохранить себя. А большинство в социальных сетях обеспечено кем? Как правило, это может быть 3-4 человека, изредка 10-20. Однако, как это часто видно при контент-анализе, на самом деле это не большинство, а просто количественное преимущество сообщений (созданных этими 3-4 людьми). Таким образом, в электронной коммуникации человек не видит реальной статистической картины, ему кажется, что раз так много написано и в одном ключе – такова и есть картина мира. А то, что противоречивые мнения не высказаны, или отмодерированы, или остались в меньшинстве в потоке манипулирующих сообщений, – ему не видно.

О ПРОЕКТЕ

Я участвую в проекте как социолог, а социология – наука, занятие безоценочное. Вот возникла потребность классифицировать проявления агрессии, и мы в первую очередь должны понимать, что демонстрация агрессии – неотъемлемая часть психологии человека и животных, она несёт и защитную функцию, служит маркером манипуляций над сознанием людей.

Когда мы анализируем проявления агрессии в концентрированном виде (для исследования), мы выявляем манипулятивные приёмы, которые применяют участники коммуникации. Например, мы уже знаем, что существуют разные типы пользователей:

• открытые (можем их найти в реальной жизни), с конкретной личностной позицией, очевидными данными, указывающими на их реальность в социальных отношениях за пределами электронной коммуникации;
• трудно определяемые либо не идентифицируемые, анонимные, «no name».

Агрессия часто связана либо с потребностью в манипуляциях сознанием других людей («провокативная»), либо с проявлением внутреннего, часто неосознаваемого или просто вырывающегося из-под контроля состояния индивида. Нам кажется, что избранный для использования в электронной коммуникации тип пользователя связан с определённым типом его поведения. Полагаю, что анонимизированных пользователей стоит отслеживать и контролировать, так как именно они способны к генерации социально опасных процессов, социально-психологическому давлению, подстрекательству к противоправным и антисоциальным действиям.

Одна из задач исследования – обнаружить условия для агрессивных манипуляций информацией, чтобы в дальнейшем заставить пользователей обратить внимание на необходимость критического мышления в отношении любой информации в социальных сетях. Особенно это актуально для детской неокрепшей психики, некритического сознания, подверженного той самой мифологической картине мира, где есть только удобная и понятная пользователю истина.

О БУДУЩЕМ СОЦИАЛЬНЫХ СЕТЕЙ

Говоря о ближайшем будущем, учёные должны предвосхищать размах информационных манипуляций в условиях, когда возрастает значение социально изолированных форм повседневности. Посмотрите, ведь в пандемии, например, растёт роль электронной коммуникации, а её приоритет над традиционным общением становится очевидным. Вопрос сегодня должен стоять не о цензуре, хотя человечеству не известно ни одного государства, где цензура исчезла, где утрачен контроль за осуществлением манипуляций над массовым сознанием, сферой социальной коммуникации.

Ограничения в адрес социальных мессенджеров и сетей часто носят культурно-исторический и социально обусловленный характер, позволяя охранять те стереотипы и установки, от которых зависит поддержание порядка и устойчивое развитие данного типа социальной организации.

Мы должны готовить людей к первичной установке на логическую фальсификацию суждений социальных сетей и мессенджеров – проверке на ложь, установке, что любое суждение изначально следует воспринимать как не истинное, фейковое, чтобы в дальнейшем находить способы убедиться в том, что есть достаточно условий для доверия или недоверия.

Здесь мы должны смотреть шире и видеть не только политические задачи государства в охране своего стабильного существования, но и потребность в культурной защите от деградации, манипуляции детским сознанием, игнорировании потребностей в развитии критической формы мышления, разжигании ненависти и детерминации агрессии, бунта или насилия как единственного способа решения социальных задач.

Роман Мещеряков, научный консультант проекта

«БЕЗОПАСНИКИ ОСВОЯТ МНОГО НОВОГО»

ОБ ИБ И ПАНДЕМИИ

Специалисты по информационной безопасности являются важным элементом в системе защиты информации в социальных сетях. На их плечах лежит ответственность за сохранение персональных данных, конфиденциальной информации. При этом необходимо понимать, что важно не только защищать конкретную информацию в текущий момент времени, но и предполагать атаки на пользователя, проводить аналитическую работу по потенциальным уязвимостям. Очевидно, когда количество пользователей увеличивается, возрастает и нагрузка на специалиста по защите информации. С другой стороны, специалисту по информационной безопасности требуется расширение спектра навыков, которые нужны для работы: знание основ искусственного интеллекта, работы с большими данными, основ психологии и социологии, а также аналитики.

ЧТО ЖДЁТ СОЦИАЛЬНЫЕ СЕТИ

Прогнозировать развитие социальных сетей – дело неблагодарное. Я считаю, что социальные сети будут и дальше проникать в жизнь человека: встраиваться в повседневность, заменяя собой привычные действия. Речь не только об общении, но и об использовании торговых и банковских сервисов, индустрии развлечений, играх, радио, телевидении, а также об увеличении объёма удалённой работы и дистанционном обучении. Я, например, использую социальные сети для решения некоторых рабочих вопросов. Конечно, так делать неправильно, и я не рекомендую, но эффективно.

Основные опасности подстерегают пользователя на этапе общения и выбора собеседника – будь то конкретный пользователь или официальный ник организации или коллектива. Легко можно попасть на разводилу, который, используя фальшивую информацию, может воздействовать на человека и принуждать/убеждать/просить/требовать/уговаривать совершить нежелательные действия или войти в плохое состояние. Используя методы социальной инженерии, можно получить доступ к аккаунту и от имени пользователя вести беседы и формировать общественное мнение, в некоторых случаях можно получить доступ к конфиденциальным данным, включая банковские сведения. Ряд пользователей провоцирует других на агрессию для достижения больших показателей кликабельности, переходов, лайков и других показателей активности. Очевидно, что данные показатели могут быть монетизированы, а негатив драки кошки с собакой вызывает более активную реакцию, чем кошечка на дереве.

ОБ ИДЕЕ ПРОЕКТА

Классификация и оценивание агрессивных комментариев и постов - это отдельная сложная задача. При этом формализация проводится на уровне как ключевых слов, так и семантических отношений. Ещё одним из способов оценивания являются количество и качество ответов, которые характеризуют степень тяжести агрессии. Обобщённо цель исследования можно сформулировать как разработку подходов и методов определения агрессии в сети Интернет. Вместе с тем важно не только выявлять агрессию, но и противодействовать ей. Чем раньше агрессия обнаруживается, тем больший шанс мирного разрешения противоречий без перехода на личности и угрозы. Необходимо помнить, что в любой ситуации мы должны оставаться людьми. Сотрудники соцсетей в проект привлекаются как в роли экспертов, так и в роли подопытных, на которых определяется степень возникающей агрессии при просмотре сайтов.

Подробнее https://ib-bank.ru/bisjournal/post/1409