Расистские шахматы?

В конце прошлого года чрезвычайно популярным стал сериал «Ход королевы», посвященный игре в шахматы. Интересно, что именно эта игра или посвященные ей видео могут иметь проблему - искусственный интеллект может оценить их как дефектные из-за расизма.

Пара ученых из Университета Карнеги-Меллона считает, что именно с этой проблемой столкнулся Антонио Радич, или «агадматор», хорватский шахматист, ведущий популярный канал на YouTube. Однако в июне прошлого года его аккаунт был внезапно заблокирован на том основании, что он распространял вредоносный контент. YouTube так и не объяснил ситуацию и снова разблокировал канал через 24 часа.

По словам Ашикуры Р.
Худа Бухш, исследователь из Института языковых технологий CMU (LTI), был основной причиной блокировки интервью Ради с гроссмейстером Хикару Накамурой. Про атаки черных и белых часто встречались слова (как в обычном анализе шахматной партии). Автоматизированная программа уловила эти слова и оценила их как проявление расовой ненависти.
и поэтому заблокировал канал.

Исследователи экспериментировали со сбором более 680 000 комментариев с пяти популярных шахматных каналов на YouTube и их оценкой с помощью двух самых передовых алгоритмов, предназначенных для поиска и обнаружения языка вражды. Затем они случайным образом отобрали 1000 комментариев, которые были помечены как вредоносные, и проверили их вручную.
Они обнаружили, что 82% из них не содержали разжигания ненависти или каких-либо других проблем, которые могли бы сделать их контент вредным.