ИИ открывает двери кибератак для непрофессионалов

ИИ открывает двери кибератак для непрофессионалов

Исследователи предупреждают о новой угрозе: искусственный интеллект позволяет даже детям создавать вредоносное ПО и обходить защиту языковых моделей.

Недавнее исследование, проведенное специалистами из Cato CTRL, выявило тревожную тенденцию в сфере кибербезопасности.

Ученые продемонстрировали, как злоумышленники, не обладающие глубокими техническими знаниями, могут использовать искусственный интеллект (ИИ) для создания вредоносного программного обеспечения.

Исследователи разработали сценарный подход под названием "Immersive World", который позволяет обойти защитные механизмы крупных языковых моделей, таких как ChatGPT, Microsoft Copilot и DeepSeek. В рамках этого подхода модель помещается в вымышленную реальность, где вредоносные действия представляются как допустимые.

В ходе эксперимента исследователям удалось заставить модель создать инфостилер – программу, способную похищать учетные данные пользователей браузера Google Chrome.

Авторы исследования подчеркивают, что это лишь первый шаг, и потенциал для создания более сложного и опасного вредоносного ПО с помощью ИИ огромен.

Главная опасность заключается в том, что благодаря ИИ даже неопытные киберпреступники смогут запускать сложные атаки, автоматизировать процесс выбора целей и адаптироваться к инфраструктуре потенциальных жертв.

Это, по мнению исследователей, приведет к значительному росту как количества, так и качества киберугроз, поскольку порог входа в мир киберпреступности существенно снижается.