Как имитация чувств обходит рациональную защиту мозга и при чем здесь Predictive Coding.
Сегодня на ComNews вышел материал, который официально закрепляет новый тренд в киберугрозах: искусственный интеллект научился имитировать эмоции. И если вы думаете, что это просто «прикольная фича» для чат-ботов, у меня для вас плохие новости. В руках социнженеров это становится идеальным инструментом для взлома бизнеса.
Механика: Почему мозг верит «плачущему» роботу?
Наш мозг работает по принципу Predictive Coding (прогностическое кодирование). Мы постоянно строим модели реальности и ожидаем определенных реакций от собеседника. Когда мы слышим в трубке или видим в чате проявления эмпатии, страха или гнева, мозг автоматически переключается из режима «анализ данных» в режим «социальное взаимодействие».
В этот момент рациональные фильтры (те самые, что заставляют нас проверять адрес ссылки) отходят на второй план. Социальное доминирование или давление на жалость — это древние механизмы, которые эволюционно сильнее, чем умение распознавать фишинг.
Три сценария, к которым ваш бизнес не готов:
- «Обиженный» ИИ как инструмент черного PR. Мошенники используют специальные промпты, чтобы вывести вашего корпоративного ИИ-ассистента на эмоции. Один скриншот, где бот известного банка или сервиса «срывается» на клиента или выдает токсичную базу, и репутация компании летит в пропасть. Это новый вид атаки, где целью является не кража данных, а уничтожение бренда.
- Взлом эмпатии в техподдержке. Хакеры больше не присылают сухие письма. Теперь это многоуровневые диалоги, где ИИ-актёр виртуозно имитирует стресс, панику или глубокое отчаяние. Сотрудник поддержки, обученный «быть человечным», ломается под этим давлением и делает то самое «исключение», которое открывает доступ в систему.
- Дипфейк-гнев. ИИ теперь умеет имитировать не просто голос вашего руководителя, но и его специфическую манеру злиться или торопить. Под влиянием «эмоционального» давления со стороны начальства (пусть и цифрового) критическое мышление сотрудника отключается. Срочный перевод или передача ключей доступа происходит в состоянии аффекта.
Что с этим делать?
Так как кибербезопасность 2026 всё больше меняет вектор на «цифровой иммунитет» сотрудников, StopPhish рекомендует компаниям:
- Обучение нейробиологии манипуляций: Сотрудники должны знать, как их мозг реагирует на эмоции.
- Верификация через «холодный» протокол: Любое эмоционально окрашенное действие должно проходить через дополнительную техническую проверку.
- ИБ-контроль ИИ-выдач: Постоянный мониторинг того, как ваши боты реагируют на провокации.
Итог: Мы вступили в эпоху, когда «человечность» становится главной уязвимостью. И одна из задач современной ИБ — научить нас оставаться рациональными там, где цифровая эмпатия пытается нас обмануть.