Среди десятков миллионов пользователей нейросети ChatGPT есть не только энтузиасты технологий. При помощи языковой модели мошенники активно организуют новые схемы и улучшают старые.
Способ первый: собрать деньги на добром имени ChatGPT
В интернете всё чаще можно найти предложения оформить доступ к ChatGPT. В начале января на первых строчках по числу скачиваний в Google Play и App Store разместилось приложение под названием ChatGPT Chat GPT AI With GPT-3, которое обещает организовать доступ к нейросети за скромные 7,99 доллара в неделю. Хотя до недавнего времени ChatGPT работал полностью бесплатно.
Хайп вокруг разработки OpenAI привлёк мошенников и в рунете. Из России напрямую воспользоваться ChatGPT нельзя: сервис требует указать номер телефона, не принадлежащий российским операторам. Поэтому на «Авито» и в выдаче «Яндекса» появились десятки предложений по созданию аккаунта — услуга стоит вплоть до 2000 рублей. Аренда виртуального номера из другой страны на общедоступных сайтах стоит 10-30 рублей.
Не все связанные с ChatGPT сайты фишинговые, отмечает руководитель группы анализа цифровых угроз «РТК-Солар» Диана Селехина. Но если нарваться на мошенника, можно потерять платёжные данные или другую конфиденциальную информацию.
Способ второй: разработка мошеннических схем силами нейросети
ChatGPT годится и в прикладные инструменты злоумышленников. Нейросеть можно попросить написать письмо от имени сотрудника известной компании с определённым смыслом: например, советом перейти по фишинговой ссылке или оплатить некую комиссию. Затем его достаточно разослать жертвам.
Подвох в том, что ChatGPT умеет генерировать текст, почти неотличимый от созданного живым автором. Таким образом решается проблема аферистов, которые не особо владеют словом или пытаются написать приманку на чужом для них языке.
Ещё один творческий вариант использования нейросети — создание поддельных личностей. Например, чтобы выдать себя за другого человека на сайте знакомств (и стать героем продолжения «Афериста из Tinder» от Netflix).
Но ChatGPT умеет и писать программный код! Из-за встроенных ограничений вряд ли нейросеть откликнется на прямую просьбу сгенерировать вирус. Но пользователи обнаружили, что можно перефразировать запрос так, будто он предназначен для образовательных целей.
Как защититься?
Чтобы не стать жертвой вымогателей и скамеров, достаточно выполнять стандартные рекомендации по безопасности в сети: пользоваться только официальными ресурсами, не передавать личные данные без уверенности в надёжности получателя, перепроверять информацию в других источниках.
Защититься от сгенерированного ChatGPT контента сложнее. OpenAI представила инструмент, который умеет отличать написанный искусственным интеллектом текст. Но разработчики признают, что надёжность классификатора пока низкая. В случае англоязычных текстов он верно определил только 26% того, что создал алгоритм.