Во многих профессиях используется параметр оценки качества входящей информации под названием "качественный контент".
Основными признаками качественного контента являются:
- достоверность;
- достаточность;
- безопасность.
Термин "безопасность" означает отсутствие вредоносного воздействия самим контентом. Потребление информации ограничено законодательно по возрасту, характеру содержания и сфере применения. Законодательно запрещена в СМИ и блогах недостоверная (фейковая) или оскорбительная информация.
Цензура в СМИ запрещена Конституцией РФ (ст. 29), но в этой статье под цензурой понимается ограничение распространения информации, которая признаётся законодательно вредоносной или определяется редактором некачественной.
Кроме прямых запретов распространения вредоносной информации у поисковых систем были запущены интеллектуальные системы ранжирования ресурсов (сайтов). Критерии отбора на высокие места поисковой выдачи в этих системах определяли первоисточник, полноту, достоверность и много других параметров, которые косвенно производили фильтрацию вредоносных и некорректных источников.
Как поисковое ранжирование производит фильтрацию вредоносной информации?
Для повышения качества поисковой выдачи системами создаются "белые списки" ресурсов, отвечающие требованиям качественной информации. На "белых ресурсах", как правило, не может быть вредоносных сведений, если они не появились в результате взлома сайта. В современном Интернете "заражённые" вредоносной информацией источники быстро обнаруживаются и блокируются.
Другим объектом информационных фильтров стали современные мессенджеры, почтовые сервисы и социальные сети - организаторы распространения информации (ОРИ).
Для контроля распространяемой информации с помощью мессенджеров и почтовых сервисов существуют фильтры, правила, правовые и технические механизмы подачи жалоб на распространяемый контент.
Одним из активно используемых способов распространения контента в социальных сетях являются комментарии. В некоторых социальных сетях несколько лет назад были запущены обучаемые системы искусственного интеллекта, которые изучали жалобы пользователей на оскорбительные комментарии и создавали нейронные взаимосвязи для самостоятельного определения подобного вредоносного контента. Результатом явились пробные запуски фильтров оскорбительных комментариев:
"ВКонтакте" начала тестировать функцию по борьбе с оскорблениями в комментариях. Эксперимент, запущенный в День народного единства, продлится сутки, говорится в сообщении пресс-службы соцсети.
...
"Когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений. Если да, автор получает совет не тратить время на агрессию и отказаться от обидной реплики", - говорится в сообщении.
источник: ТАСС, 04.11.2019 г.
Таким образом для полноценной фильтрации средствами гражданского информационного контроля могут использоваться:
- фильтры государственных надзорных служб;
- фильтры контентной площадки;
- пользовательские фильтры комментариев и личная правосознательная позиция автора контента.
Одной из современных информационных уязвимостей являются чат-боты, которые могут быть подвергнуты информационной атаке, как и человек.
В будущем, возможно, повысится популярность использования нейронных сетей-полицейских, которые смогут защищать входящий поток запросов, адресуемых коммерческим чат-ботам. Ведь обучаемые системы могут быть подвергнуты нейронной логической атаке. Особенно уязвимы системы, использующие режим обучения "без учителя". Чат-ботам, чью логику могут засорить профессиональные систематизированные атаки взломщиков-собеседников, может пригодиться обученный фильтр входящего потока. Работу такого фильтра можно представить по аналогии работы антивирусной программы с операционной системой ПК.
Современные нейронные сети-консультанты быстро развиваются, эволюционируют и поэтому разработчики уже предлагают для коммерческого использования сети, заранее обученные безопасному принятию решений. Такие нейронные сети заказчик может дообучить своей специфике бизнеса. По причине экономии времени и соблюдения требований безопасной обработки информации, популярны готовые бизнес-кейсы интеллектуальных систем.
На основании приведённых примеров можно заключить, что Система "цензуры информации" (безопасности информации) - это система контроля информационного качества.
11 ноября 2019 года (редакция текста 26 мая 2020 года).
автор: юрист Демешин Сергей Владимирович.
Участвуйте в обсуждении, пройдите опрос об интересных темах будущих публикаций (ссылка опроса в описании канала, также в описании указаны правила комментирования публикаций).