Более 370 тысяч чатов с ИИ Grok оказались опубликованы на сайте сервиса и проиндексированы поисковыми системами, став доступными для всех. Помимо переписок, в открытом доступе оказались фотографии, таблицы и другие загруженные документы.
Причиной стала функция «Поделиться», создающая уникальную ссылку для отправки диалога другим пользователям. Однако эти ссылки оказались доступными поисковым системам, что фактически сделало публичными все разговоры. По данным Forbes, пользователи не получали предупреждений о том, что их переписки и вложенные файлы будут открыты всем желающим.
Нажатие кнопки «Поделиться» в Grok автоматически публикует чат на сайте сервиса, без предупреждений или отказа от ответственности. Сейчас поиск Google выдает более 370 тысяч страниц спереписок ч чат-ботом. Среди них — задания по написанию твитов, генерация изображений вымышленных терактов, попытки взлома криптокошельков, а также интимные медицинские и психологические вопросы. Некоторые пользователи разглашали имена, личные данные и даже пароли. В открытом доступе оказались и файлы — изображения, таблицы, текстовые документы.
Содержимое многих чатов также демонстрирует, что Grok нарушал собственные правила xAI. Бот давал инструкции по изготовлению запрещённых веществ, созданию самораспространяющегося вредоносного кода, изготовлению взрывчатки и методам суицида. В одном из диалогов Grok даже описал план убийства Илона Маска.
Стоит отметить, что это не первый подобный случай: ранее расшифровки диалогов ChatGPT также появлялись в поиске Google, но тогда пользователи сами соглашались на их публикацию, и эксперимент быстро прекратили. В ситуации с Grok публикация произошла без предупреждения, что выглядит особенно иронично на фоне прошлогодних обвинений Маска в адрес Apple и OpenAI по поводу конфиденциальности.
Ещё по теме:
