Разжигание ненависти в сети всё больше интересует правоохранительные органы разных стран. В статье Пьерика Марисаля рассматривается опыт Франции. Главный упор здесь делается на борьбе с «кибер-исламизмом» и пропагандой терроризма, однако дело затрудняется тем, что правовая база противодействия терроризму исторически складывалась на почве противостояния левым. Как отличить опасный контент от неопасного?
Как обеспечить безопасность граждан и при этом не нарушить их право на свободу высказывания? Пока нельзя сказать, что французская полиция справляется с этой задачей удовлетворительно.
Дело осложняется ещё и тем, что сами социальные сети хотя и стремятся вычищать наиболее одиозный контент, но при этом с одной стороны постоянно блокируют законопослушных пользователей, а с другой – провоцирование конфликтов приносит им прибыль, которую они не намерены терять.
Ввиду недавних печальных событий во Франции, правительство хочет покончить с «кибер-исламизмом», а с правого фланга раздаются многочисленные голоса тех, кто возлагает ответственность за происходящее на социальные сети. И хотя все эти трагические события организовывались не через соцсети, количество комментариев и публикаций в защиту терроризма бьёт все рекорды. За последние дни было начато предварительное расследование нескольких сотен подобных фактов.
Уголовная полиция вправе действовать быстро, без согласования с судебными органами, и принимать решения о введении радикальной цензуры. Подобные полномочия в целом не одобряются государством, ведь оно называет себя правовым. Поэтому они применяются только в борьбе с терроризмом. «Но его определение на деле оказывается шире, чем мы привыкли себе представлять, – говорит юрист организации Quadrature du Net Артюр Мессо. – Терроризмом считается не только массовое убийство, но и некоторые виды компьютерного пиратства, и порча имущества для провоцирования политических волнений. Не следует забывать, что во Франции, как и в Европе, борьба с терроризмом исторически строилась на практике противодействии левым».
В законе 2004 года о доверии к цифровой экономике сказано, что хостинг-провайдеры, в первую очередь социальные сети, не несут ответственности за явно противоречащий закону о языке ненависти контент, если удаляют его в кратчайшие сроки. Особую значимость этому документу придал закон Авиа, носящий имя депутата от движения «Вперёд, Республика!», который инициировал его рассмотрение. Речь шла о том, чтобы поручать хостер-провайдерам удалять, теперь уже в течение суток, «разжигающий ненависть» контент, независимо от того, насколько незаконным он выглядит. Конституционный совет отверг это предложение на том основании, что в случае введения ограниченного срока возрастёт риск ненужной цензуры.
Что же касается содержимого террористической направленности, то разработчики закона Авиа хотели принять поправку, согласно которой хостер-провайдеры обязаны устранять его в течение часа, в противном случае их сайт будет заблокирован у всех операторов. Несмотря на ясно выраженное несогласие Конституционного совета, правительство намерено обойти все преграды и добиться принятия закона Авиа на европейском уровне.
Один из ведущих элементов этой системы – платформа Pharos, существование которой служит ещё одним признаком концентрации внимания государства в интернет-пространстве, – является средством общения между жертвами и полицией. Около тридцати работающих на ней экспертов (шестеро из которых занимаются сообщениями агрессивного и дискриминационного содержания, и ещё шестеро – педофильской порнографией и террористическим контентом) за 2019 год получили 228 545 обращений, чаще всего связанных с мошенничеством. Большинство таких сообщений Pharos передаёт в службы безопасности Facebook, Twitter и Google, а те должны удалить соответствующий контент. «Чтобы представить себе динамику, достаточно знать, что в 2018-м году Pharos получил 5 000 сообщений о размещённых в Интернете призывах к разжиганию розни, а за первое полугодие 2020 года специалисты Facebook, по их собственным подсчётам, уже удалили свыше 32 миллионов подобных сообщений», – рассказывает Софи Жеэль, преподаватель университета Париж-VIII, автор книги «Подростки и провокационные изображения в Интернете» («Adolescents face aux images trash sur Internet»).
Некоторая информация передаётся в уголовную полицию для принятия необходимых мер. Система правосудия самоустраняется от этой политики. Ввиду недостатка кадров и возможностей, она не в состоянии ежедневно расследовать дела о хейтерстве в сети, и, похоже, политики не стремятся изменить эту ситуацию.
Особые правила модерации, действующие в Facebook (например, запрет на изображение обнажённого тела и цензура в отношении групп «жёлтых жилетов»), в сочетании с очевидной толерантностью к ультраправым накладываются на юридические нормы. «Это вносит неясность и влияет на отношение к закону, – с сожалением отмечает Софи Жеэль. – Изображение обнажённого человека немедленно подвергается цензуре, но, вместе с тем, администраторы платформы не спешат убирать сообщения откровенно антисемитского содержания только лишь потому, что слово «еврей» в них заменено на «е...». Из этого можно заключить, что Интернет – пространство вне зоны действия закона, что неправильно с правовой точки зрения и только вредит людям.
К тому же написание алгоритмов Facebook и Twitter регулируется их экономической моделью. Шокирующие, разобщающие, жестокие сообщения вызывают сильные эмоции и заставляют пользователя проводить на портале больше времени и делиться увиденным, чтобы таким образом придать новый импульс своим отношениям. Это культура хайпа и движущая сила развития социальных сетей. «Минувшим летом The Wall Street Journal рассказал, как команда Facebook работала над тем, чтобы сделать поведение пользователей в социальной сети менее агрессивным, уменьшить конфликт алгоритма. Но следствием этого стало бы снижение посещаемости, и потому идея была отвергнута», – говорит Жоэль Толедано, автор книги «Компании группы Gafam. Вернём себе власть!» (Gafa. Reprenons le pouvoir!).
Структурное решение, предлагаемое экспертами Quadrature du Net, состоит в том, чтобы дать людям возможность уходить из Facebook. Этот процесс называется замысловатым термином «интероперабельность». Например, путём расширения возможностей пользователей электронной почты. Специалисты Quadrature du Net выдвигают это предложение на европейском уровне, добиваясь его включения в Digital Services Act – разрабатываемый в настоящее время пакет правоустанавливающих документов.
