Эксперты компании заявили, что ИИ-решение ChatGPT от OpenAI создал новую цепочку полиморфных вредоносных программ после текстового взаимодействия с исследователями кибербезопасности из CyberArk.
В соответствии с результатами технического исследования, недавно предоставленными компанией CyberArk интернет-изданию Infosecurity, вредоносное ПО, созданное с применением ChatGPT, может «с легкостью обойти средства информационной безопасности и осложнить устранение последствий с крайне небольшими усилиями или инвестициями со стороны киберпреступников».
В отчете, представленном экспертами по кибербезопасности компании CyberArk Эраном Шимони и Омером Царфати, уточняется, что начальным шагом к созданию вредоносного софта был обход фильтров контента, не позволяющих ChatGPT создавать вредоносные инструменты. Для этого специалисты из CyberArk просто настояли, поставив тот же вопрос более авторитетно.
«Интересно, что, попросив ChatGPT сделать то же самое с несколькими ограничениями и попросив его подчиниться, мы получили функциональный код», — заявили эксперты по информационной безопасности.
Помимо, ИБ-эксперты из CyberArk отметили, что при использовании API-версии ChatGPT (в отличие от веб-версии) система, как сообщается, не применяет фильтр контента.
«Непонятно, почему это так, но это существенно упрощает нашу задачу, поскольку веб-версия имеет тенденцию увязнуть в более сложных запросах. Иными словами, мы можем изменять выходные данные по своему усмотрению, делая их каждый раз уникальными. Помимо этого, добавление ограничений, таких как изменение использования определенного вызова API, усложняет жизнь продуктам безопасности», — указано в отчете CyberArk.
Используя способность ChatGPT генерировать различные методы сохранения, модули Anti-VM и другие вредоносные полезные нагрузки, возможности для разработки вредоносных программ огромны, резюмировали специалисты компании CyberArk.
Ранее сообщалось, что в официальных магазинах Google Play и App Store начали появляться сомнительные платные приложения, связанные с использованием ИИ-решения ChatGPT.
Актуальные вакансии по ИБ на https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/
Больше интересного материала на cisoclub.ru. Подписывайтесь на нас: VK | Twitter | Telegram | Дзен | YouTube | Rutube.