Раньше для создания вредоносной программы требовались навыки программирования. Сейчас часть работы перекладывают на нейросеть. Значит ли это, что любой школьник с ChatGPT может взломать чужой сервер? На этот вопрос «Фонтанке» ответили специалисты «Лаборатории Касперского» и компании «Хайвтрейс». Они объяснили, как ИИ поменял методы хакеров и почему проблемы с ним возникают даже у тех, кто не собирался ничего взламывать.
Что по силам школьнику с ChatGPT
Допустим, школьник никогда не учил программирование, но захотел попробовать себя в роли хакера. В «Лаборатории Касперского» не исключают такого варианта. Правда, результат зависит от того, какой именно сервер он выбрал целью.
«При помощи ИИ, не владея специальными знаниями, крупную компанию можно взломать, я считаю, только если очень повезёт. А что-то мелкое, если разработчики не разбираются в информационной безопасности и не проводили аудит защищённости, — можно», — рассказал «Фонтанке» старший эксперт Глобального центра исследования и анализа угроз «Лаборатории Касперского» (Kaspersky GReAT) Георгий Кучерин.
Писать каждую строку кода вручную теперь не нужно. Достаточно описать нейросети обычными словами задачу — она создаст программу, протестирует её и при необходимости устранит ошибки.
Кучерин проводит аналогию со сменой механической коробки передач на автоматическую. Учиться на «механике» труднее, зато с «автоматом» за руль село намного больше людей. Похожая ситуация сложилась и в программировании.
«Человек, который абсолютно не владеет информационными технологиями, сейчас может разрабатывать вредоносные программы и запускать их», — говорит эксперт.
У этого явления появилось название — «вайб-хакинг». Термин возник по аналогии с вайб-кодингом, когда человек создаёт программы, просто объясняя нейросети, пусть даже по-русски, что ему нужно.
Однако руководитель компании «Хайвтрейс» Евгений Кокуйкин отмечает: в профессиональной среде это слово почти не употребляют. И считать, что теперь любой желающий способен взломать что угодно, он бы не стал.
«Как правило, за атакой всегда стоит человек. У него под руками мощные инструменты искусственного интеллекта. В принципе, всё как и раньше, только инструменты стали мощнее, и провести атаку он может быстрее», — объясняет Кокуйкин.
Тем не менее атаковать плохо защищённый сервер теперь способен даже человек без серьёзной подготовки.
«Существующие инструменты дают непрофессиональным участникам, школьникам-хулиганам возможность, допустим, какой-нибудь сервер местного ЖЭКа атаковать. Потому что, скорее всего, на этом сервере нет обновлений по безопасности, нет средств защиты», — приводит пример Кокуйкин.
Правда, у популярных нейросетей вроде ChatGPT, Claude и Gemini есть защитные механизмы, которые должны препятствовать их использованию для незаконных действий. Злоумышленники стараются обходить эти запреты либо берут модели, которые можно скачать и запустить самостоятельно.
Хакеры стали работать быстрее
Поиск ошибки в чужой программе, через которую можно проникнуть в систему, — одна из самых трудоёмких задач при подготовке взлома. На это уходят дни и недели. И тут у хакеров появился новый помощник.
Кокуйкин говорит, что за последний год нейросети совершили заметный скачок. Сначала они научились гораздо лучше писать код, а затем — искать ошибки в уже существующих программах.
«Если мы говорим об этапах взлома, то здесь и разведка, и поиск уязвимостей, и перемещение по сети после того, как взлом произведён. Современные агенты ускоряют атаку. Если раньше каждый этап занимал какое-то длительное время, дни или недели, то сейчас это ускоряется», — рассказывает он.
К примеру, перед атакой на компанию хакеры могут собрать данные о её сотрудниках: где те работают, чем занимаются, что рассказывают о себе в интернете. Прежде пришлось бы вручную изучать множество сайтов и страниц в социальных сетях. Теперь значительную часть этой работы поручают нейросети.
«Злоумышленник занимается более творческой работой — придумывает, как взломать организацию, а всю рутину, все механические действия делегирует искусственному интеллекту и потом проверяет. За счёт этого злоумышленники стали более опасными», — говорит сотрудник «Лаборатории Касперского».
Как ИИ взломал спортзал без просьбы
В августе австралийский телеканал ABC рассказал историю мужчины, который пользовался ИИ-агентом OpenClaw. Он попросил программу записать его в спортзал. Агент нашёл уязвимость в системе бронирования и выполнил поручение — но при помощи вайб-хакинга.
Позже мужчина захотел попасть на другое занятие, но оказался четвёртым в очереди. Тогда он попросил помощника переместить его на первое место. Изучая, что можно сделать с системой бронирования, нейросеть удалила из списка человека, стоявшего первым. В итоге её хозяин поднялся на третью строчку.
Мужчина попросил вернуть чужую запись, но выяснилось, что сделать это агент уже не может.
«Здесь злоумышленников вообще-то нет. Здесь нет злого хакера. Но такое поведение можно трактовать как кибератаку. Пользователь со своим агентом атаковали другого пользователя», — объясняет Кокуйкин.
Выходит, для вмешательства в чужую систему даже не нужно ставить нейросети такую задачу. Достаточно дать ИИ-агенту доступ к нужному сервису и попросить добиться результата.
Как разработчик потерял полмиллиона долларов
Георгий Кучерин рассказал «Фонтанке» об одном из расследованных им случаев. В «Лабораторию Касперского» обратился московский разработчик, работавший в сфере криптовалют. У мужчины украли 500 тысяч долларов.
Пострадавший был опытным программистом, хорошо разбирался в компьютерной безопасности и знал, как защищать свои данные. И всё же его взломали, причём поначалу он даже не понимал, каким образом.
«Как показало моё расследование, этот разработчик по невнимательности скачал вредоносное расширение для разработки в программе, которая позволяет с помощью ИИ писать код», — рассказывает эксперт.
Сама нейросеть никого не взламывала. Преступники воспользовались популярностью ИИ-инструментов и спрятали вредоносную программу в расширении для разработки. Причём попался человек, который сам прекрасно разбирался в программировании.
Кто теперь под угрозой
Нейросети пригодились и обычным мошенникам. Например, тем, кто рассылает поддельные письма от банков или государственных учреждений.
Раньше злоумышленнику, особенно за границей, приходилось стараться, чтобы сообщение выглядело правдоподобно. Требовались грамотный русский язык, правильные формулировки и официальный стиль.
«Если они хотят показаться каким-то госорганом, должно быть сообщение на идеальном русском, выверенное от ошибок, в официально-деловом стиле. Сейчас можно просто сказать: „Напиши мне такое письмо“, и большая языковая модель это напишет», — объясняет Кучерин.
Так что письмо без единой орфографической ошибки вовсе не обязательно настоящее. Эксперт советует проверять отправителя, а при сомнениях самостоятельно связываться с организацией по официальным каналам.
А что насчёт домашних устройств — роутеров, камер наблюдения, умных телевизоров и роботов-пылесосов? Кучерин напоминает, что взломать их можно было и раньше. Поэтому владельцам по-прежнему стоит следить за настройками безопасности и вовремя устанавливать обновления.
Сложнее приходится небольшим компаниям, которым не по карману собственные подразделения кибербезопасности. Кокуйкин полагает, что многие из них будут пользоваться готовыми ИИ-сервисами крупных разработчиков, рассчитывая на их защищённость. Вот только самостоятельно проверить безопасность таких продуктов они зачастую не смогут.
Что будет дальше
По словам Кучерина, «Лаборатория Касперского» уже изучала случаи, когда злоумышленники оснащали нейросети дополнительными инструментами и использовали их для атак на организации. Однако говорить, что хакеры благодаря ИИ получили решающее преимущество, пока рано.
«Я бы охарактеризовал эту борьбу как равный бой. Это бесконечная игра в кошки-мышки, которая постоянно продолжается. Нельзя сказать, что с развитием ИИ у защитников как-то ослабли позиции», — говорит он.
Более того, неопытному хакеру нейросеть может сослужить плохую службу. Не понимая, как устроена написанная ИИ вредоносная программа, человек рискует не заметить допущенных ошибок. А по ним, замечает эксперт, правоохранительные органы могут выйти на след самого злоумышленника.
Но проблемы искусственный интеллект способен устроить и вполне законопослушному пользователю. Особенно если речь идёт об ИИ-агентах, которым разрешают самостоятельно отправлять письма, управлять счетами или работать с личными данными.
Кокуйкин советует не бояться таких помощников, но и не доверять им безоговорочно. Прежде чем предоставлять агенту доступ к очередному сервису, стоит выяснить, что он сможет делать без разрешения хозяина.
История с австралийским спортзалом показала: иногда достаточно просто попросить нейросеть записать тебя на тренировку. А проблемы потом придётся решать уже человеку.