Компания M**a Platforms изначально выросла из социальной сети F******k, а потому свои новейшие разработки старается применить к оптимизации её обслуживания. Например, ИИ-модели M**a будут направляться на модерацию контента в социальных сетях компании, а также на управление рекламой, которая продолжает оставаться серьёзным источником доходов американского интернет-гиганта.
Как отмечает Financial Times, компания стремится заменить труд модераторов искусственным интеллектом, чтобы снизить затраты на обслуживание своих социальных сетей и тем самым оправдать масштабные инвестиции в ИИ в глазах акционеров и инвесторов. В сочетании с оптимизацией работы с рекламой при помощи ИИ, это должно обеспечить ежегодную экономию на издержках в размере нескольких миллиардов долларов.
В этом году M**a уже поручила ИИ работу примерно с 50 % запросов на модерацию контента, к концу текущего года этот показатель только увеличится и достигнет по некоторым направлениям величины более 90 %. Компания давно использует комбинацию автоматических систем и ручного труда для модерации контента, но жалобы на неправомерную блокировку со стороны пользователей традиционно просматривались людьми.
Формально M**a объясняет активизацию использования ИИ необходимостью более эффективного внедрения новых технологий, а не одним лишь снижением затрат. Проводимые с марта испытания показали, что языковые модели в среднем ошибаются на 13 % меньше при борьбе с контентом, нарушающим правила, при этом ИИ находит на 10 % больше нарушений. Внедрение таких систем, по словам представителей компании, происходит только после того, как специалисты убедились, что они оказываются более эффективными по сравнению с существующими методами работы.
M**a также старается экономить на разработке программного обеспечения, используя генеративный искусственный интеллект. Компания прибегла к массовым сокращениям, это в известной степени подорвало моральный дух оставшихся сотрудников, но складывается впечатление, что отказываться от активного внедрения ИИ руководство M**a не собирается. Изначально для поддержки пользователей и модерации использовалась платформа Google Gemini, но в последнее время M**a начала переводить эти процессы на собственную модель Muse Spark. Наиболее активно ИИ-модераторы вытесняют живых специалистов в случае с подрядчиками, чьими услугами M**a традиционно пользовалась в этой сфере.
По мнению представителей M**a, современные большие языковые модели более эффективно подстраиваются под динамично меняющуюся обстановку в сфере модерации контента, а также позволяют охватить большое количество языков и информационных ресурсов. Кроме того, у человека при его замене ИИ-модерацией пропадает необходимость просматривать контент, который способен нанести урон его ментальному здоровью. Итоги проведённых к марту тестов позволили компании заявить, что она займётся активным внедрением ИИ-модерации в последующие несколько лет. Не все сотрудники M**a разделяют мнение, что экспансия этой технологии сопровождается приемлемым уровнем ошибок. Специалисты также поясняют, что ИИ всё равно обучается на действиях модераторов в тех случаях, когда речь идёт об оспаривании блокировки доступа или материалов.
Повышение эффективности блокировки рекламы мошеннических ресурсов и запрещённых товаров на страницах социальных сетей M**a приведёт к снижению доходов компании. По некоторым оценкам, в 2024 году на эту категорию рекламы пришлось около 10 % всей рекламной выручки компании или $16 млрд. С другой стороны, юридические претензии к таким неправомерным рекламным материалам также влекут издержки для M**a. Хакеры также берут на вооружение ИИ для атак на аудиторию социальных сетей компании, поэтому важно попутно усиливать и меры безопасности.
Array