Ежедневно Google получает около 20 млн отзывов на свои сервисы Карты и Поиск. Далеко не всегда эти отзывы оказываются правдивыми. Чтобы решить эту проблему, в прошлом году компания начала использовать алгоритм машинного обучения. Его целью является как никогда быстрое обнаружение подобных ложных отзывов. В результате по итогам прошлого года таких отзывов было удалено около 170 млн.
Главный инженер-программист Google Maps Дэн Притчетт рассказал, что перед публикацией отзывы проверяются системой модерации Google. После публикации контент отслеживается на предмет подозрительной активности. Здесь и начинает работать новый алгоритм машинного обучения.
Этот алгоритм ежедневно проверяет долгосрочные сигналы. Например, если один автор обзоров оставляет одинаковые отзывы о нескольких компаниях. Также подозрительно выглядит, если компания внезапно получает множество отзывов с оценкой 1 или 5 звёзд.
Этот алгоритм борется с мошенниками, которые предлагают свои услуги, обещая улучшить отзывы и видимость компании в интернете. Выявляя закономерности, алгоритм может распознать, на какие категории бизнеса нацелена атака. Google утверждает, что за несколько недель в рамках всего одной атаки было обнаружено свыше 5 млн попыток оставить ложные отзывы.
В прошлом году нарушение политики Google привело к удалению свыше 170 млн отзывов. Это значение на 45% превосходит показатель 2002 года. Ещё было удалено 12 млн поддельных бизнес-профилей. Также за год удалили 14 млн видеороликов, этот результат за год вырос вдвое. Было предотвращено 2 млн попыток получить доступ к чужим бизнес-профилям.
В прошлом году Google подала в суд на мошенника, разместившего свыше 350 ложных бизнес-профилей и свыше 14000 ложных отзывов. Дальше этот мошенник пытался продать информацию, полученную от пользователей при взаимодействии с фальшивыми профилями.