Интеллектуальные агенты, встроенные в ПО и действующие от лица пользователей, — новая серьёзная угроза для бизнеса, так как они могут стать инструментом киберпреступников, заявил в беседе с RT заместитель генерального директора по безопасности компании «СберКорус» Иван Дмитриев.
Он уточнил, что непосредственно у ИИ-агентов нет собственных желаний, чувств или стремлений к личной выгоде. Их поведение определяется заложенными человеком-разработчиком целями, алгоритмами обучения и правилами, которым они следуют.
По словам эксперта, ИИ-агенты уже сейчас активно меняют содержание электронных документов до момента их подписания. Они несут угрозу проставления фальшивых подписей и побеждают людей на соревнованиях так называемых белых хакеров. Всё это упрощает возможности кибератак со стороны злоумышленников.
С развитием инструментария искусственного интеллекта преступники получают доступ к мощным инструментам, доступным прежде только крупным участникам рынка, отметил собеседник RT.
«Традиционные меры защиты электронной почты и мессенджеров теперь являются лишь базовым уровнем гигиены, сравнимым с мытьём рук перед едой», — подчёркивает Дмитриев.
Отмечается, что реальная угроза сегодня сконцентрирована вокруг принципиально новых способов взаимодействия пользователей с приложениями и системами. Речь идёт об интеллектуальных агентах (ИИ-агенты), встроенных в ПО и действующих от лица пользователя.
Чтобы защитить бизнес от киберугроз, необходим комплексный подход к обеспечению информационной безопасности компаний, считает Дмитриев.
«Среди них — развитие автоматизированных решений на базе ИИ, которые смогут противостоять новым видам киберугроз, и участие квалифицированных специалистов для проверки корректности алгоритмов, выработанных ИИ», — пояснил эксперт.
По его словам, обеспечение информационной безопасности — одна из ключевых задач современного цифрового мира, особенно для крупных предприятий и организаций, работающих с большим объёмом конфиденциальных данных и важных документов.
Ранее депутат Госдумы Дмитрий Гусев объяснил в беседе с RT важность законопроекта, в котором предлагается ввести обязательную маркировку видео, созданных с помощью искусственного интеллекта (ИИ).