Эксперт объяснил, как нейросети помогают мошенникам и почему DarkGPT — новая угроза

В пятницу, 4 июля, исследователи компании Okta обнаружили, что хакеры используют генеративный ИИ-инструмент v0 от Vercel для создания поддельных страниц известных брендов. Комментарий по этому поводу дал основатель IT-компании KOTELOV Валерий Котелов, подчеркнув, что ситуация выходит далеко за рамки конкретного сервиса.

«Больше скажу, Vercel использовали новички в сфере хакинга. Настоящие хакеры покупают в даркнете доступы в “DarkGPT” — это образное название всех LLM-моделей, у которых отключена совесть и натренированы они на создание фишинговых страниц», — объясняет Котелов.

Казалось бы, возможность запустить нейросетку на своём компьютере — хорошая возможность, но некоторые слишком сильно злоупотребляют этим. Сейчас любой пользователь может скачать любую современную LLM, поправить её и использовать в своих целях.

«Именно так и работают “офисы в Днепре”, которые разводят бабушек на деньги под видом прокурора или следователя. У особо продвинутых “офисов” (так называются компании, которые ориентированы на обман россиян) есть свои чат-боты, которые в режиме реального времени расшифровывают звонки и помогают “оператору” грамотно разводить жертву».

При этом эксперт подчёркивает — число таких инструментов будет только расти, и лучшая защита — знание:

«Единственная защита — осведомлённость. Ведь мы сейчас не заряжаем воду перед телевизором под Кашперовского? Так и тут будет: со временем у нас у всех выработается “коллективный иммунитет к разводам”».