Google занимает 92,19% доли рынка поисковых систем во всем мире и выполняет 5,6 млрд поисковых запросов в день. Google предоставляет результаты поиска с помощью алгоритмов, которые пытаются выяснить, что человек хочет увидеть и/или узнать, основываясь на словах, которые ввели в строку поиска. Затем они предоставляют ранжированный и часто кажущийся бесконечным список наиболее вероятных соответствующих ссылок. Для многих людей во многих случаях это однозначно помогает и упрощает жизнь. Но бывает, что это не так. И вот почему.
Кого не радует поисковая система Google
Для пострадавших от сексуализированного насилия с использованием изображений (СНИИ) не весь контент, предоставляемый поисковой системой, безвреден. Часть контента, появляющегося в результатах поиска по именам, может включать в себя откровенные изображения или видео, которые были созданы и/или распространены без согласия изображенных на них людей. Это не только разрушает жизни само по себе, но и снова и снова превращает выживших в пострадавших каждый раз, когда такие изображения и видео просматривают или когда ими делятся.
В 2016 году адвокатка Кэрри Голдберг (Carrie Goldberg)* работала над делом, в рамках которого она пыталась удалить 15 видеороликов с изображением ее клиенток, которые были распространены без их согласия и опубликованы на популярных порносайтах сотни тысяч раз. В некоторых случаях полные имена ее клиенток были указаны рядом с видео на показ всему миру. Когда кто-то вводил в поисковую строку Google любое из имен этих 15 женщин, алгоритмы выдавали множество ссылок на сайты, на которых были размещены эти видео с ними. После случившегося с некоторыми из этих женщин расстались их партнеры, других уволили с работы, заставили переехать, а некоторым даже пришлось сменить имя.
В то время, когда в Google обращались с просьбой удалить эти ссылки из поискового алгоритма, они зачастую отказывались.
В 2022 году американский Национальный центр по борьбе с секс-эксплуатацией (National Center on Sexual Exploitation, NCSE) включил Google в свой ежегодный список технологических компаний «Грязная дюжина», поддерживающих секс-эксплуатацию, потому что поиск в Google облегчал доступ к реальному контенту сексуализированного насилия (включая видео с секс-траффикингом, изнасилованиями, насилием над детьми), распространяемому без согласия контенту, а также к незаконному и социально-опасному контенту.
Благодаря множеству материалов, задокументировавших проблему и то, как Google невольно участвует в этом, их отношение, похоже, стало меняться.
Что Google меняет
Во-первых, они изменили алгоритмы, чтобы предотвратить появление в списке результатов (когда кто-то ищет человека по имени) сайтов с клеветой и доксингом [обнародование персональной или конфиденциальной информации о человеке без ее/его согласия].
Также теперь Google автоматически размывает откровенные изображения в результатах поиска.
«Решение Google по умолчанию размывать и скрывать изображения с откровенно сексуализированным содержанием — огромный шаг вперед в защите детей в интернете. Дети легко могли наткнуться на такие изображения, даже если вводили невинный поисковый запрос. Теперь появился еще один уровень защиты. Все технологические компании должны по умолчанию размывать откровенно сексуализированный контент, включая контент, отправляемый через мессенджеры, электронные письма и другими способами. Новая политика также принесет пользу выжившим и пострадавшим от секс-эксплуатации в случаях, когда насилие в отношение них было заснято и загружено в интернет» — говорит Лина Нилон (Lina Nealon), вице-президент по корпоративной защите NCSE.
Еще одна вещь — это создание концепции «известных пострадавших». Когда кто-то сообщает в Google, что ее/его отметили на сайтах, взимающих плату за удаление фото/видео с собой, их включают в список «известных пострадавших», и Google автоматически подавляет аналогичный контент в результатах поиска по их имени. Это то, о чем выжившие просили и требовали годами. Ранее Google предпринимал некоторые шаги, чтобы сделать такую функцию реальной. Теперь она, наконец, появилась и эффективно работает.
Почему это важно
Пережившие СНИИ страдают от такой же травмы, как и пережившие изнасилование. Также часто игнорируется то, что некоторые из них пострадали не только от недобровольного распространения этих материалов, но и от их недобровольного создания.
Крисси Чемберс (Chrissy Chambers) – первая, кто потребовала в Англии возмещения ущерба и уголовного преследования своего бывшего партнера за публикацию «порномести». Она страдала от кошмаров, в которых ее бывший пытался ее убить или изнасиловать. Она также боролась с тревогой, депрессией и алкоголизмом. И она всего лишь одна из многих выживших.
Можно было бы подумать, что информация о травме выживших подтолкнет людей не просматривать изображения и видео, которыми делятся без их согласия, но это не так. Слишком много контента, созданного без согласия изображенных в нем людей, имеет сотни тысяч просмотров, что говорит как о наличии спроса на такой контент, так и о недостаточной осведомленности о том, что является согласием, а что нет.
Перевод: Кира Циндяйкина для Фонда «Безопасный дом».
Источники: https://endsexualexploitation.org/articles/google-to-automatically-blur-explicit-images/, https://fightthenewdrug.org/google-takes-steps-to-filter-out-search-results-for-ibsa-revenge-porn/
Примечание: Исследование, проведенное в трех странах в 2020 году, показало, что каждая третья женщина подвергалась той или иной форме СНИИ. К сожалению, во время пандемии коронавируса количество таких случаев стремительно выросло.
Опыт нашего Фонда также показывает, что угроза распространения интимных материалов всё чаще используется против женщин как метод принуждения в коммерческой секс-эксплуатации. Мы многократно слышали от подопечных, что контролирующие их преступники угрожали распространением откровенных материалов с ними. В некоторых случаях эта угроза приводилась в исполнение, что обычно становилось источником дополнительной травматизации и требовало больше времени и ресурсов для восстановления.
*
Кэрри Голдберг борется за права пострадавших от онлайн-преследований, сексуализированного насилия и шантажа в США. Ее книга «Я так не хотела» переведена на русский язык.