Microsoft создала автоматизированную систему для обнаружения педофилов, пытающихся ухаживать за детьми в Интернете. Инструмент с кодовым названием Project Artemis предназначен для выявления моделей общения в разговорах.
На основе слов и моделей речи система присваивает рейтинг вероятности того, что один из участников пытается подготовить другого. Компании, внедряющие эту технику, могут установить оценку (например, 8 из 10), выше которой любые помеченные разговоры отправляются модератору-человеку для проверки. Модераторы могут выявлять неизбежные угрозы и сообщать о них правоохранительным органам. Это также даст экспертам по защите детей больше информации о том, как педофилы работают в Интернете. Microsoft использует эти методы в течение нескольких лет для своих собственных продуктов, включая платформу Xbox и Skype, сообщил в своем блоге главный специалист компании по цифровой безопасности Кортни Грегуар.
Как это работает? Microsoft не объяснила точных слов или шаблонов, за которыми охотится инструмент - это может привести к тому, что педофилы будут корректировать свое поведение, пытаясь скрыть свою деятельность. Инструмент доступен бесплатно для компаний, предоставляющих функции онлайн-чата, через некоммерческую организацию Thorn, которая разрабатывает технологические продукты для защиты детей от сексуальных надругательств.
Система может вызвать много ложных срабатываний, поскольку автоматизированные системы все еще пытаются понять значение и контекст языка. Это означает, что компаниям, занимающимся социальными сетями, придется инвестировать в большее количество модераторов, если они действительно стремятся заняться онлайн-грумингом. Система также предполагает, что сообщения не зашифрованы и что пользователи дают согласие на чтение их личных сообщений, что необязательно является таковым