Исследователи обнаружили, что рекомендации YouTube советуют детям-геймерам видеоролики о стрельбе в школах и другой контент, связанный с оружием. Об этом 17 мая стало известно из данных некоммерческой организации Tech Transparency Project.
В течение месяца отслеживались рекомендации, которые YouTube выдавал детским аккаунтам. Исследование показало, что алгоритм сервиса «направляет мальчиков, интересующихся видеоиграми, к сценам стрельбы в школах, инструкциям по использованию и модификации оружия» и подобному контенту.
Чтобы выяснить это, аналитики создали четыре новых аккаунта на YouTube, которые якобы принадлежали двум девятилетним и двум четырнадцатилетним детям. Они «смотрели» плейлисты о популярных видеоиграх Roblox, Lego Star Wars, Halo и Grand Theft Auto. После этого отслеживались рекомендации для них в течение тридцати дней.
В отчете сказано, что видеохостинг рекомендовал контент о стрельбе и оружии всем аккаунтам игроков, но в гораздо большем объеме пользователям, которые переходили на видео, рекомендованные YouTube.
«Видео включали сцены со стрельбой в школах и другими случаями массовых убийств, графические демонстрации того, какое повреждение может нанести оружие человеку, а также руководства по превращению пистолета в автоматическое оружие», — указано в данных.
Исследователи также отметили, что несколько рекомендованных видео даже нарушали собственные правила платформы. Некоторые из этих видео были монетизированы рекламой.
Представитель YouTube прокомментировал ситуацию. Он напомнил о приложении YouTube Kids и инструментах надзора в нем, которые обеспечивают «безопасный опыт для подростков». При этом он не объяснил почему основная веб-версия рекомендует детям неприемлемый контент и назвал исследование несостоятельным.