Когда ее десятилетняя дочь вместе с подружкой загрузили на YouTube видео о том, как они играют в бассейне на заднем дворе, уроженка Рио-де-Жанейро Кристина С. ничего не заподозрила: видео казалось совершенно невинным.
Через пару дней счастливая девочка прибежала к маме с новостями: ее видео набрало больше тысячи просмотров. А еще через некоторое время количество просмотров перевалило за 400 000. Тогда Кристина посмотрела видео ещё раз, совсем другими глазами: на нём две маленькие девочки в раздельных купальников резвились в воде и игриво смеялись. Женщина запаниковала.
Оказалось, система рекомендаций YouTube показывала это видео пользователям, которые смотрели другие ролики с «малолетними полуодетыми детьми». Платформа в принципе иногда выцепляет подобные безобидные видео из семейных архивов, чтобы рекомендовать их разным пользователям. Однако чаще она рекомендует их тем, кто до этого смотрел сексуализированный контент.
«Алгоритм YouTube, который формирует подобные связи между каналами, — страшная вещь», — говорит научный сотрудник Гарвардского университета Джонас Кайзер, который вместе с командой исследователей анализировал работу алгоритмов YouTube.
Причем дочь Кристины загрузила свое видео на YouTube уже после того, как компания получила предупреждение о «контенте для педофилов»: за пару месяцев до этого СМИ писали, что злоумышленники используют комментарии под подобными безобидными видео с детьми, чтобы находить друг друга и формировать своего рода кружки по интересам.
В ответ на это YouTube поспешила закрыть комментарии под множеством видео с детьми, часть из них удалила, однако роликов, залитых с сомнительных аккаунтов, это почти не коснулось.
Однако главная проблема состоит в том, что даже если за всё время пребывания на сайте пользователь не посмотрел ни одного видео с детьми, он всё равно с большой долей вероятности увидит хоть одно из них в «Рекомендованном».
Так, например, пользователю, который только что посмотрел видео околоэротического содержания, видеосервис может порекомендовать видео с совсем юными девушками, ещё позже — с девушками, которые, например, позируют в детской одежде. В конце концов, некоторые зрители могут найти в ленте уже видеозаписи с маленькми девочками в купальниках, играющими в бассейне за домом. Прямо как дочь Кристины.
Каждый видеоролик сам по себе может быть довольно невинным, а связи между ними — скорее условными, но, если собрать их вместе, общая тема прослеживается безошибочно. Система работает по принципу «кроличьей норы», рекомендуя ролики все более «экстремального» содержания: посмотрите пару роликов о велосипедах, и система предложит вам видео со страшными авариями на дорогах.
Несмотря на то, что директор по продукту в YouTube Дженнифер О’Коннор назвала борьбу с эксплуатацией детей приоритетной задачей компании, сервис так и не внёс главное изменение — систему рекомендаций не отключили, хотя платформа может идентифицировать и удалять подобные видео автоматически. Но она не делает этого, ведь, по признанию самих представителей YouTube, рекомендации генерят до 70% трафика.
Стоит также учитывать, что YouTube разрешает вести собственные аккаунты детям с 13 лет, так что привлекательный для педофилов контент появляется на сайте постоянно. Как в таком случае реагировать родителям — непонятно.
«Единственное, что я могу сделать, — говорит Кристина, — это запретить дочери публиковать что-либо на YouTube».
Если понравился материал — поставьте лайк! И подписывайтесь скорее на наш канал!