Мы с вами уже пару раз обсуждали тему того, как ИИ скоро будет использоваться для помощи злоумышленникам или для непосредственного взлома. Так вот, этот нейропоезд уже не остановить.
Во-первых, злоумышленники уже во всю генерируют оригинальные фишинговые письма при помощи NLP моделей по типу ChatGPT. Нейронке можно дать все необходимые вводные (возраст, интересы и т.д.), чтобы жертва точно отреагировала на фишинговую рассылку или звонок и попалась на крючок.
Во-вторых, по сырым исходникам и необработанным данным нейронные сети могут определять используемые криптографические функции, и описывать алгоритмы их работы, что может помочь злоумышленникам при реверс-инжиниринге.
В-третьих, тот же ChatGPT умеет анализировать и составлять списки потенциальных уязвимостей безопасности сервисов. Более того, он способен даже сгенерировать огромное множество запросов, с помощью которых эти уязвимости можно попробовать проэксплуатировать.
В четвертых, нейросети уже умеют писать сами эксплойты (вредоносные скрипты), хоть и делают это не всегда удачно и с первой попытки (например, как тут), но всё еще впереди.
Думаю, что в одном из следующих постов мы с вами поговорим о том, как ИИ-сервисы уже можно использовать не для того, чтобы взламывать что-то, а в целях защиты и обеспечения той самой кибербезопасности.
#Мнение
Твой Пакет Безопасности
