Посмотрел выступление Натальи Касперской на ЦИПР 2026. Нынче это мероприятие проходило в Нижнем Новгороде. ЦИПР — это такая ежегодная конференция про цифровую экономику и технологии в России-матушке. Расшифровка аббревиатуры лично мне взрывает мозг, но я не про это.
Так вот, Наталья Касперская выступила на сессии «ИИ без иллюзий. Технологии для реального сектора» и, собственно, про эти самые иллюзии и говорила. А еще, конечно, про безопасность. Точнее, про небезопасность использования ИИ. А если прям совсем точно — то, как сейчас используется ИИ у нас, совершенно небезопасно.
Наталья Ивановна знает, о чем говорит. Все же её компания InfoWatch — один из лидеров в разработке решений в области информационной безопасности и защиты конфиденциальной информации. Очень рекомендую послушать, так сказать, в оригинале.
Если кратко, то Наталья Ивановна обозначила для всех нас следующие угрозы:
1️⃣ Утечка конфиденциальных данных. Так как отечественных моделей (я про ИИ) у нас кот наплакал — Наталья Ивановна хлестко выразилась про «полторы модели» — коммерческие и технологические секреты через зарубежные ИИ уходят на внешние сервера. А там их обязательно вытащат наши друзья-конкуренты с помощью хитрых промптов.
2️⃣ Целенаправленная дезинформация. Недруги отслеживают запросы российских компаний (причем автоматически) и намеренно выдают сгенерированную ложь, чтобы, например, саботировать процесс.
3️⃣ Галлюцинации. Это уже само собой. Потому что природа ИИ — это вероятностная модель, а значит, возможны ошибки в расчетах, которые уже непросто отследить.
4️⃣ Слепая вера. Хайп продолжает нарастать, и очарование «умной» машиной превращается в слепую веру. Особенно среди гуманитариев. Нет должной критической проверки результатов ИИ среди сотрудников. (Почему-то сейчас вспомнился мультфильм про Вовочку из Тридевятого царства: «И так сойдет!»).
5️⃣ Shadow AI (Теневой ИИ). Неконтролируемое использование сотрудниками личных аккаунтов и сторонних моделей для рабочих задач. То есть, даже если компания защитила своё «облако», любимые сотрудники все равно «выносят» данные через личные устройства.
Причем компания Натальи Ивановны — не исключение (она поделилась своей историей). А ведь сама компания про безопасность, и там сотрудники знают про все тонкости современных киберугроз, а вот все равно…
Так где запятую запятую ставить, друзья? После слова «внедрять» или после слова «нельзя»?
Ведь что получается.
С одной стороны — прогресс не остановить. Уже сейчас опытный пользователь в 1С может самостоятельно сделать для себя какую-нибудь внешнюю обработку и решать с помощью неё рабочие задачи. Потому что пока допросишься у своего программиста (если он вообще есть) или денег у директора согласуешь, чтобы к партнеру 1С обратиться — пройдет вечность. Долго… А тут прям в браузере написал, что хочешь (мозг, конечно, надо свой включать), и можно через полчаса уже использовать в своей 1С.
А с другой стороны, даже если на уровне организации ставить все это под контроль и выделять ресурсы (сотрудники, думаю, легко откажутся от личных аккаунтов, если компания оплатит корпоративные подписки) — то что использовать?
Те самые три буквы (я не про лес и не про забор), использовать на уровне предприятия как-то, вроде, нельзя. Арендовать сервер на просторах СНГ, чтобы через него все было без этих трех букв — можно, но проблему безопасности и утечки данных это не решает.
Использовать наши «полторы модели» предлагаете? Я очень люблю нашу страну и искренне горжусь нашими достижениями, но тут мы пока малость отстаем.
Вот с такими смутными и тревожными мыслями пойдем с моим коллегой сегодня, 27 мая, на большую конференцию про ИИ в 1С. Обсудим, посмотрим, поштурмим вместе с коллегами по рынку как все делать так, чтобы и эффективность повышать и чтобы нам с вами (в самом широком смысле) ничего за это не было и Родина не пострадала.
В общем, как говорит один мой товарищ — об успехе доложусь!
А вы сами-то где запятую поставили? Или вы лучше про другие три буквы вспомните?