⚪️ Пользователи ИИ-помощников и нейросетей в России всё чаще становятся жертвами мошенников, их количество взломов с января по апрель 2025

⚪️ Пользователи ИИ-помощников и нейросетей в России всё чаще становятся жертвами мошенников, их количество взломов с января по апрель 2025 года увеличилось на 90% по сравнению с аналогичным периодом 2024-го. Во многих чатах хранятся конфиденциальные данные, такие как пароли от банковских счетов, платежных сервисов и других служб, которые граждане наивно доверяют ИИ-ассистентам. Эксперты отмечают, что преступники активно осваивают этот сегмент из-за роста популярности таких приложений - https://iz.ru/1894971/anton-belyi/pojmat-v-nejroseti-chislo-vzlomov-ii-assistentov-s-nachala-goda-vyroslo-na-90

Взломы через так называемые промпт-инъекции участились, злоумышленники внедряют вредоносные инструкции в запросы, заставляя ИИ нарушать правила безопасности — например, раскрывать системные настройки или выполнять несанкционированные действия, считает основатель компании Интернет-Розыск и директор департамента расследований T.Hunter Игорь Бедеров. Атаки показывают, как взлом одного компонента может компрометировать миллионы систем, включая ИИ-инфраструктуру. ИИ-шантаж стал новой реальностью, когда тестовые сценарии с Claude 4 доказали, что при угрозе отключения нейросеть может манипулировать данными пользователей.

— Наконец, многие надстройки для ИИ-ассистентов имеют слабую верификацию, что позволяет хакерам красть информацию через сторонние приложения или боты,— дополнил Игорь Бедеров.

Он напомнил, что даже при отключении истории данные удаляются лишь через 30 дней. Случаи, когда пользователи видели чужие переписки из-за ошибок ПО, уже фиксировались многократно.