Найти тему
Блог Эвелины Гаевской

Технологии против токсичности

Оглавление

Одно из отвратительнейших, на мой взгляд, поветрий в современном интернет-пространстве— это коверкание русских слов и даже профессиональных терминов, с целью ввести в заблуждение программный алгоритм площадки. В случае употребления «не тех» слов публикация может быть автоматически ограничена в показах, поэтому надо заменить «не то» слово похожим, или использовать $им₩0лы.

Авторы Дзен-каналов не хотят получить обвинение в нарушении возрастных норм или в использовании «языка вражды», поэтому нервически стараются всячески избегать «взрослых» слов типа звучащих как английская цифра шесть, не говоря о еще более взрослых словах, о которых было прекрасно сказано в советской передаче «Вокруг смеха»:

Слов немного.
Всего ли пяток.
Но какие из них комбинации!
©️ если не ошибаюсь, это Семен Альтов

Встречала я также переформулировку фрейдовского термина, о котором тоже много раз писала. Термин используется в теории психологии, но алгоритмы его не любят, видимо.

Ну, с обсценной лексикой понятно, она действительно оскорбляет (потому что именно для этого и используется, а не как во время воздушных атак во второй мировой, чтобы донести смыслы в несколько раз быстрее)

Но термины-то! 

Такое впечатление , что «по мнению» алгоритма, аудитория на некоторых площадках — это такие трехлетние детки, которых может травмировать название своими именами того, что делают взрослые.

Вспоминается сцена из известного в нулевые сериала (кажется, название тоже может алгоритму не понравиться», поэтому стала популярной аббревиатура СБГ:

Скриншот с цитатой из сериала
Скриншот с цитатой из сериала

В общем, такая себе история с этой заменой слов. Какая-то тема с ограничением речи, атака на язык.

Тем не менее, если человек имеет развитую речь, владеет лексическими приемами, он вполне может выразить свое негативное отношение к собеседнику, не прибегая к стыдливой замене знаков на символы. Это называется токсичность, нарушение личных границ в разговоре. 

При этом, владение речью — один из самых важных запросов работодателей в вакансиях

Но и тут снова на помощь приходят технологии. Мне рассказали про один бот, который проверяет тексты на токсичность. Вообще огонь.

Ниже приведу примеры, как бот разобрал токсичные комментарии.

© Эвелина Гаевская, соцсети @evelinagaevskaya
© Эвелина Гаевская, соцсети @evelinagaevskaya

Меня зовут Эвелина Гаевская , я практикующий психолог, веду этот канал об изменении поведения людей в новом информационном мире. Все публикации на этом канале авторские. Использование материалов канала без указания авторства запрещено.

Подборка

Инфоразум 

Инфоразум | Блог Эвелины Гаевской | Дзен

Речь идет об этом боте:

Скриншот автора
Скриншот автора

В статье «Сколько стоит женщина, подарившая мужу носки» я цитировала высказывание одного мужчины:

Скриншот автора из статьи «Сколько стоит женщина, подарившая мужу носки» https://dzen.ru/a/ZdrrXxdZ2VlW9pTb
Скриншот автора из статьи «Сколько стоит женщина, подарившая мужу носки» https://dzen.ru/a/ZdrrXxdZ2VlW9pTb

Вот как оценил высказывание бот Autentik AI ♻️ Toximeter:

Обнаруженные характеристики:
🚩 Сексизм
🚩 Обесценивание
Результат: 🤷‍♂️ Может быть токсичным
Оценка: Данное высказывание содержит проблематичные элементы. Первая часть о персонализированных подарках нейтральна, но вторая часть выражает сексистскую и обесценивающую позицию. Фраза "грош тебе цена как женщине" предполагает, что ценность женщины определяется её способностью выбирать подарки, что является стереотипным и унизительным представлением. Это высказывание может быть воспринято как оскорбительное и дискриминационное по отношению к женщинам, так как оно сводит их роль к узкому набору ожиданий и навыков.
Такой подход к оценке человека, особенно женщины, на основе умения выбирать подарки является неуважительным и может негативно влиять на самооценку. Высказывание игнорирует многогранность личности и сложность человеческих отношений, сводя их к упрощенным стереотипам.

Конец цитаты

Я протестировала еще одно высказывание, из популярного на Дзен канала:

Скриншот автора
Скриншот автора

И вот ответ бота:

Обнаруженные характеристики:
🚩 Объективация женщин
🚩 Классовое неравенство
Результат: 🤷‍♂️ Может быть токсичным
Оценка: Текст содержит потенциально проблематичные элементы. Особенно тревожна фраза "согласных на все женщин", которая объективирует женщин и представляет их как товар для развлечения богатых людей. Это может восприниматься как сексистское и унижающее достоинство женщин высказывание. 
Кроме того, текст подчеркивает классовое неравенство, представляя "богатых скучающих людей" как группу, нуждающуюся в особых развлечениях. Хотя намерение автора могло быть просто описательным, такой подход может усиливать стереотипы о богатых и бедных, что потенциально токсично в социальном контексте.

И еще одна цитата

(как было сказано в сериале «Шерлок»: есть что-то магическое в числе 3), из статьи «Кажется, я поняла, чего хотят мужчины от женщин»

Комментарий частично:

Скриншот автора
Скриншот автора

Ответ бота:

Обнаруженные характеристики:
🚩 Сексизм
🚩 Стереотипизация
🚩 Манипуляция
Результат: 🤷‍♂️ Может быть токсичным
Оценка: Данный текст содержит ряд проблематичных утверждений и предположений о женщинах, которые могут быть восприняты как сексистские и стереотипные. Автор предполагает, что у женщин "нет реальной власти" и что они "не являются силой", что является спорным и потенциально оскорбительным утверждением. 
Кроме того, фраза о том, что второй вариант "сильно против женской природы" продвигает стереотипные представления о женщинах и их способностях. Это предполагает, что женщины по своей природе не склонны к объединению и совместной работе, что является необоснованным обобщением.
Хотя автор, кажется, поддерживает идею о том, что женщины должны иметь равное участие в формировании будущего, способ, которым это выражено, может быть воспринят как снисходительный и манипулятивный. Текст представляет ограниченный выбор вариантов для женщин, что может быть интерпретировано как попытка контролировать нарратив о роли женщин в обществе.

Собственно, что и требовалось, и о чем я и говорила в вышеуказанной статье, а также во многих других.

Автору этого канала прилетает довольно часто, за якобы предвзятое отношение к мужчинам. (Ага, ко всем 4 млрд, необоснованное обобщение). Но в целом, да, я откровенно плохо отношусь к токсичным высказываниям, независимо от пола высказывающегося.

Кроме того, я не думаю, что это какой-то мой эксклюзив распознавать токсичность — такое чувствуется в любом случае. Просто иногда токсичность трудно распознать и идентифицировать, особенно, если токсичные фразы говорит, улыбаясь, приятный и даже авторитетный человек. Но!

Если вам кажется— вам не кажется.

Теперь вот телеграм-бот в помощь, чтобы логически проверить свои чувства.

Мне лично понравилось. Чувствую прямо соблазн и вдохновение протестировать некоторые комментарии (может, и свои), но особенно мужские, их есть у меня в подборке Мнение мужчины:

Мнение мужчины | Блог Эвелины Гаевской | Дзен

Как вам? Понравилась идея? Полезный бот? Как вам тема про контроль человеческих действий (речи) с помощью технологий? Или это все же не про контроль Матрицы над человечеством, а форма управления и процесс познания человеком самого себя?

Давайте поговорим!

Ваш реалистичный психолог

© Эвелина Гаевская2024

Использование материалов канала «Блог Эвелины Гаевской» разрешено только при указании авторства и ссылки на оригинал публикации.

Информация о консультациях автора канала

Перевод на поддержку канала и 

на кофе автору

Правила общения на этом канале

Уважаемые друзья. Если информация в этой статье для вас оказалась полезной, поделитесь, пожалуйста, этой статьей с другими людьми , сделав «репостнуть» на свою страницу на Дзен или в другую соцсеть. Спасибо за лайки, комментарии и репосты.