Разработчики видео-приложения для знакомств «Filter Off» дали интервью изданию TechCrunch, в котором рассказали о коварном трюке. Как это всегда случается, любая набирающая популярность социальная платформа с растущим числом пользователей привлекает внимание мошенников. Зная это, разработчики изначально разработали метод защиты от них с помощью ИИ.
Задача мошенников — втереться в доверие к пользователю и выманить деньги, для чего им приходится тратить время на общение. При этом нужно вести себя осторожно, подстраиваться под собеседника, сглаживать неловкие моменты в диалогах и т.д. Для противодействия мошенникам разработчики приложения намерены использовать нейросеть GPT-3, которая способна генерировать текст и вести общение от имени живого человека. Другие неназванные ИИ создают правдоподобную картинку, которая также вводит мошенников в заблуждение.
По мере выявления злоумышленников среди пользователей приложение тайком перенаправляет их на специальный закрытый канал. Там они могут общаться только с ботами под управлением ИИ и между собой. Как рассказал топ-менеджер компании Брайан Вайнрайх, на канале уже более 1000 выявленных мошенников и иной раз довольно забавно наблюдать за их попытками обмануть друг друга. Стратегия не нова, но в этот раз, похоже, она сработала как надо.