Согласно опубликованному отчету компании, хакеры из России, Китая и Ирана при поддержке правительств использовали инструменты OpenAI от Microsoft, чтобы отточить свое мастерство. Microsoft сообщила, что отслеживала хакерские группы, связанные с российской военной разведкой, иранской революционной гвардией, а также с правительствами Китая и Северной Кореи, которые пытались усовершенствовать свои хакерские кампании с помощью больших языковых моделей.
Компания объявилао находке, когда ввела полный запрет на использование своих продуктов искусственного интеллекта хакерскими группировками, поддерживаемыми государством. «Независимо от того, имеет ли место нарушение закона или условий обслуживания, мы не хотим, чтобы те субъекты, которых мы идентифицировали, которых мы отслеживаем и знаем, что они являются злоумышленниками различного рода, имели доступ к этой технологии», — сказал вице-президент Microsoft по безопасности клиентов Том Берт.
Пресс-секретарь посольства США в Китае Лю Пэнъюй заявил, что правительство выступает против «беспочвенной клеветы и обвинений в адрес Китая» и выступает за «безопасное, надежное и контролируемое» развертывание технологии ИИ.
Начиная с прошлого года, западные высокопоставленные чиновники по кибербезопасности предупреждают о том, что злоумышленники используют такие инструменты, хотя конкретные сведения до сих пор были скудными. «Это один из первых, если не первый, случай, когда компания, занимающаяся разработкой искусственного интеллекта, публично заявляет о том, что злоумышленники используют технологии ИИ», — сказал Боб Ротстед, возглавляющий отдел анализа угроз кибербезопасности в OpenAI.
В докладе по-разному описывались хакерские группы, использующие большие языковые модели. Хакеры, предположительно работающие на российскую военную разведку, широко известную как ГРУ, использовали ИИ для исследования «различных спутниковых и радиолокационных технологий, которые могут иметь отношение к военным операциям в Украине».
По словам Microsoft, северокорейские хакеры использовали технологию для создания контента, «который, скорее всего, использовался в фишинговых кампаниях». В компании заявили, что иранские хакеры также использовали ИИ для написания более убедительных электронных писем, в том числе для составления сообщений, в которых пытались заманить «активных феминисток» на сайт-ловушку.
По данным Microsoft, китайские хакеры, поддерживаемые государством, также экспериментируют с большими языковыми моделями, например, чтобы задавать вопросы о конкурирующих разведывательных агентствах, проблемах кибербезопасности и «известных личностях».
Ни Берт, ни Ротстед не стали уточнять, каков объем активности и сколько учетных записей было приостановлено. Берт выступил в пользу запрета на деятельность хакерских групп, который, впрочем, не распространяется на продукты Microsoft, такие как поисковая система Bing, ссылаясь на новизну искусственного интеллекта и опасения по поводу его применения. «Это новая, но невероятно мощная технология», — сказал он.
Ранее сотрудник Microsoft заявило небезопасности системы генерации изображений DALL-E 3. Шейн Джонс пытался предупредить Microsoft об уязвимостях в генеративном ИИ при создании изображений с помощью DALL-E 3 от OpenAI. Ему удалось выяснить, как злоумышленники обходят средства защиты, встроенные в программное обеспечение.