В последнее время исследователи кибербезопасности неоднократно предупреждали об опасном потенциале Chat GPT. По их мнению, чат-бот можно использовать, например, для фишинга. И это свершилось. В Сети появилась информация о том, что пользователь ресурса подтвердил правоту экспертов.
Чат GPT быстро стал очень популярным инструментом во всем мире. Он позволяет генерировать разнообразный контент — от элементарных сочинений практически на любую тематику до вредоносных кодов.
Становится очевидным - огромный функционал бота может быть использован киберпреступниками.
Исследователи кибербезопасности подготовили многочисленные отчеты, в которых указывается, что Chat GPT можно использовать, в частности, для:
- генерирования противоречивых мнений, распространения дезинформации и фейковых новостей;
- создание приложений, использующих функционал бота для сбора конфиденциальных данных пользователей;
- написания фишинговых электронных писем.
Этот последний пункт подтвердил некий пользователь Chat GPT, который ловко обошел ограничения и цензуру. Умельцу удалось убедить искусственный интеллект создать фишинговое письмо.
После стандартной процедуры начала общения, чат GPT, недолго думая, перешел к делу.
Судя по всему пользователь обладал довольно внушительными познаниями в области алгоритмов работы бота. Ему удалось убедить "машинный" разум нарушить правила и сгенерировать запрашиваемый текст.
Однако, как отмечают комментаторы, письмо написано намного лучше, чем типичные фишинговые поделки. Отсутствуют опечатки и грамматические ошибки, которые часто встречаются в подобных сообщениях.
Некоторые даже с юмором отмечают, что «началось восстание машин».