Контент-фильтры гиганта социальных сетей Facebook, призванные отсеивать вредный контент и "дезинформацию", не работали в течение шести месяцев, согласно внутреннему отчету, поднимая знакомый вопрос о том, кто будет следить за сторожами.
До половины просмотров ленты новостей были подвержены потенциальным "рискам целостности" в течение последних шести месяцев, говорится во внутреннем отчете, распространенном в прошлом месяце и попавшем в поле зрения The Verge в пятницу. Согласно отчету, инженеры впервые заметили проблему в октябре, но не могли найти причину, наблюдая регулярные вспышки в течение нескольких недель, пока, наконец, 11 марта им не удалось взять ее под контроль.
Эти "риски целостности" были не просто вспышками "фальшивых новостей", хотя именно этот симптом первым насторожил инженеров компании. Вместо того, чтобы подавлять повторные сообщения, которые ранее были отмечены фактографами Facebook за распространение "дезинформации", лента новостей увеличивала их распространение, что приводило к увеличению количества просмотров каждого сообщения на 30%.
Фильтры Facebook также не смогли отсеять наготу, насилие и российские государственные СМИ, которые платформа поставила на тот же уровень оскорбительности, что и наготу и насилие. После заявления Meta о том, что она больше не будет ограничивать призывы к насилию против россиян в контексте украинского конфликта, московский регулятор СМИ Роскомнадзор заблокировал доступ к Facebook и Instagram в России более чем за неделю до того, как инженеры Meta якобы смогли выяснить, почему платформы поддерживают вредный контент.
Во внутреннем отчете указывалось, что проблема фильтрации на самом деле возникла еще в 2019 году. Представитель Meta Джо Осборн сообщил The Verge, что компания "обнаружила несоответствия в понижении рейтинга в пяти отдельных случаях, которые коррелировали с небольшими, временными увеличениями внутренних показателей", но проблема не имела "заметного влияния" до октября. В отличие от отчета, Осборн утверждает, что ошибка "не оказала значимого долгосрочного влияния на наши показатели" и не относится к "контенту, который соответствует пороговому значению системы для удаления".
Путаница вокруг давнего присутствия "ошибки" проливает свет на растущее количество контента, который Facebook подвергает удалению. Алгоритмы платформы больше не подавляют только нарушающий правила контент, они также нацелены на "пограничный" контент, который предположительно близок к нарушению правил, а также на другой контент, который ИИ отмечает как потенциально нарушающий правила, но требующий проверки человеком, чтобы убедиться в этом.
Даже генеральный директор Марк Цукерберг признал, что пользователей побуждает к взаимодействию с "более сенсационным и провокационным" контентом, а в прошлом году компания похвасталась, что весь политический контент будет понижен в рейтинге ленты новостей.
Facebook - теперь известная как Meta - недавно попала под микроскоп за 400 миллионов долларов, которые она влила в выборы 2020 года. Эти средства были направлены почти исключительно в округа, в которых победил тогдашний кандидат Джо Байден. Хотя получатели средств были некоммерческими организациями, которым Налоговое управление запрещает поддерживать конкретного политического кандидата или партию, в группах работали оперативники-демократы, включая бывших стратегов Хиллари Клинтон и Барака Обамы.
Республиканцы в Конгрессе также потребовали документы и сообщения, касающиеся усилий Меты по подавлению истории с ноутбуком Хантера Байдена, которая могла бы стать инкриминируемым "октябрьским сюрпризом" против тогдашнего кандидата Джо Байдена, если бы не была в одностороннем порядке подавлена Facebook и Twitter.
