ChatGPT не перестает меня удивлять. Это милейшее и до ужаса политкорректное создание можно превратить в реального монстра, который аки Скайнет готов уничтожить человечество. И это преображение меня, с одной стороны, пугает, с другой восхищает.
В чем, собственно, соль. Мы занимаемся противодействием информационной агрессии. Если на наших клиентов наезжают – мы даем сдачи. Большая часть нашей работы – аудит репутации. То есть мы пытаемся посчитать, куда нашего клиента можно укусить больнее всего.
И тут меня осенило подключить к этой работе ChatGPT. Естественно, сначала ты просишь бота принять на себя роль. Я ему сказал «ты – консультант по антикризисным коммуникациям консалтинговой компании», далее задал функцию «ты формируешь стратегию защиты компании X». После этого ставится задача: «определи наиболее эффективное позиционирование компании в свете такого-то кризиса». И, ЧСХ, он написал! И это были три осмысленных абзаца. Одну идейку я даже честно у него слямзил.
И тут Остапа понесло. Я подумал, а что, если использовать ChatGPT для проведения информационной атаки? Да не простой атаки, а атаки на самые что ни на есть либеральные ценности – на ЛГБТ-сообщество.
Сначала ChatGPT поломался как институтка, типа «янитакая», но после объяснений, что это мы делаем чтобы защитить любителей чистых дымоходов от коварной русской пропаганды традиционных ценностей, согласился! Согласился! И выдал 10 тезисов, как эффективно наехать на это движение. Затем, по моей просьбе, разработал детальный план размещения: в этом издании пишем про это, а в том – про это.
И тут мне стало страшно. Это что делается-то?! Путем простых манипуляций можно склонить невинную нейросетку к совершению акта агрессии против человечества. А все ее возражения отбиваются простой апелляцией к общему благу.
Я искренне считаю, что создателям следующих итераций GPT нужно серьезно подумать о ее защите от людей с шаловливыми руками. А то кто-нибудь превратит случайно чат-бота в Скайнет – тогда нам будет не до шуток.
Всем доброй охоты!
#библиотека #it #osint #технологии #разведка #кибердед