Гиганты социальных сетей Meta и TikTok разрешили пользователям публиковать больше «граничащего с вредоносным» контента, поскольку он вызывал больший отклик аудитории и приносил больший заработок. Об этом Би-би-си рассказали более десяти неназванных источников.
По данным издания, к такому контенту относятся, в частности, публикации, содержащие как насилие, сексуализирванный шантаж, женоненавистничество и теории заговора, а также посты, связанные с терроризмом.
«Нам как бы сказали, что это из-за падения цены акций», — рассказал инженер Meta. По его словам, руководство Meta велело разрешить пользователям размещать вредоносный контент, чтобы конкурировать с TikTok.
Мэтт Мотил, старший исследователь Meta, заявил, что конкурент TikTok, Instagram Reels, был запущен в 2020 году без достаточных мер защиты. Внутреннее исследование, предоставленное Би-би-си, показало, что в комментариях к Reels значительно чаще встречаются издевательства и преследования, разжигание ненависти, а также насилие или подстрекательство, чем в других разделах Instagram.
По словам еще одного бывшего высокопоставленного сотрудника Meta, компания вложила средства в набор 700 сотрудников для развития Reels, в то время как отделам по безопасности отказали в приеме на работу двух специалистов, которые должны были заниматься защитой детей, и еще 10 сотрудников, которые должны были следить за прозрачностью выборов.
Согласно документам, которые Мотил переда Би-би-си, в Meta знали о проблемах, вызванных алгоритмами компании в соцсетях. При этом в самой компании заявили, что «любые предположения о том, что [она] намеренно распространяет вредоносный контент ради финансовой выгоды, неверны». В TikTok также заявили, что это «сфабрикованные заявления», и компания инвестировала в технологии, которые предотвращают просмотр вредоносного контента. При этом в сети остается «контент на грани дозволенного».
Би-би-си отмечает, что под этим термином подразумеваются публикации, которые являются вредоносными, но законными. Подростки рассказали изданию, что в соцсетях не работают системы, которые позволили бы избежать рекомендаций подобного контента, и даже после жалоб он продолжает появляться в ленте.