Американцы все чаще используют algospeak, чтобы обойти модерацию контента, особенно при публикации о вещах, которые являются спорными или могут нарушать правила платформы
Если вы видели, как американцы пишут о «кемпинге» в социальных сетях, есть шанс, что они не говорили о том, как разбить палатку или посетить национальные парки. Термин стал частью algospeak — «нового языка», в котором используются кодовые слова и фразы для избежания модерации. Лексикон не позволяет системам модерации контента удалять или снижать рейтинг, например, вместо слова «смерть» используется «не живой», вместо «сексуальное насилие» — «SA», а вместо «вибратор» — «острый баклажан».
Шивон Ханна, которая курирует решения для обработки данных с использованием искусственного интеллекта в Telus International, канадской компании, предоставляющей услуги модерации контента для людей и ИИ почти на всех крупных платформах социальных сетей, включая TikTok, сказала, что «кемпинг» с algospeak означает «аборт». Упоминания о «кемпинге» появились в течение 24 часов после решения Верховного суда об абортах и выросли в течение следующих нескольких недель. Но «кемпинг» как явление алгоспика сошел на нет, потому что он стал настолько повсеместным, что перестал быть кодовым словом. Обычно так и работает algospeak: сначала всплеск, привлечение внимания, стадия с мемами и затем вымирание.
Согласно новым данным Telus International, полученным в результате опроса 1000 человек в США в прошлом месяце, более половины американцев говорят, что они стали свидетелями всплеска популярности algospeak по мере развития поляризационных политических, культурных или глобальных событий. И почти треть американцев говорят, что они «использовали смайлики или альтернативные фразы в социальных сетях и на игровых сайтах, чтобы обойти запрет». По словам Ханны, algospeak чаще всего используется для обхода правил, запрещающих разжигание ненависти, домогательства и издевательства.
Эти постоянно развивающиеся обходные пути представляют собой растущую проблему для технологических компаний и сторонних подрядчиков, которых они нанимают, чтобы помочь контролировать контент. В то время как машинное обучение может выявлять откровенные оскорбительные материалы, такие как разжигание ненависти, ИИ может быть гораздо труднее читать эвфемизмы или фразы, которые кому-то кажутся безобидными, но в другом контексте имеют более зловещий смысл.
Например, термин «сырная пицца» широко используется аккаунтами, предлагающими обмениваться откровенными снимками детей. Эмодзи с кукурузой часто используется, чтобы направить людей на порно. А прошлые репортажи Forbes выявили двойной смысл банальных предложений, таких как «дотронься до потолка», используемых для того, чтобы уговорить молодых девушек продемонстрировать свое тело.
Другие способы избежать модерации со стороны ИИ включают намеренное написание слов с ошибками или замену букв символами и цифрами, такими как $ вместо S и цифра 0 вместо буквы О. В algospeak смайлики тоже очень часто используются для представления чего-то, что изначально не предполагалось как смайлик. В некоторых контекстах это может быть подлым, но безвредным: эмодзи с изображением краба набирают популярность в Великобритании как метафорическое закатывание глаз. Но в других случаях алгоспик в эмодзи может быть опасным: например, эмодзи ниндзя в некоторых контекстах были заменены уничижительными терминами и ненавистническими высказываниями в адрес афроамериканцев.