Утечка данных в Grok

Утечка данных в Grok

❗️В полной мере осознавая преимущества использования нейросетей для автоматизации рутинных задач, предупреждаем о потенциальных рисках утечек данных.

💬Так, согласно данным Forbes, более 370 000 диалогов пользователей с искусственным интеллектом Grok были проиндексированы Google и оказались в открытом доступе без ведома или разрешения пользователей . Это подтверждается также BBC и другими источниками. Утечка произошла из-за функции «Поделиться», которая создавала уникальный URL-адрес для обмена диалогом, но одновременно делала его доступным для поисковых систем.

⚠️В открытом доступе оказались конфиденциальные данные, включая:

⏺Личную информацию: имена пользователей, пароли, детали медицинских и психологических запросов .

⏺Деловые данные: бизнес-планы, электронные таблицы и текстовые документы, загруженные пользователями для анализа .

〰️Проблема заключалась в конструкции функции «Поделиться». При нажатии кнопки система создавала публичную ссылку, которая автоматически индексировалась поисковыми системами. При этом пользователи не получали явного предупреждения о том, что их диалог станет общедоступным. Это классическая ошибка проектирования систем безопасности, когда функциональность ставится выше приватности.

Таким образом, те или иные проблемы безопасности фиксировались у всех крупных нейросетей. Конфиденциальность данных в сервисах ИИ часто является вторичной по отношению к их функциональности. Для защиты себя никогда не вводите логины, пароли, паспортные данные, финансовую информацию, коммерческие и тем более служебные данные в диалог с чат-ботом.

🫡Подписаться на Киберполицию России

📲 Max I 📱 ВK I 📱 ОK

🇷🇺 Чат-бот Киберполиции России

🫡 Поддержать канал