Изображение: Om siva Prakash (unsplash)
Вечером 22 марта стало известно, что чат-бот ChatGPT столкнулся с утечкой пользовательских данных. Представитель компании OpenAI подтвердил во время общения с иностранными профильными изданиями, что из-за сбоев в параметрах конфиденциальности чат-бота, в течение непродолжительного времени некоторые пользователи могли увидеть чужие истории взаимодействия с платформой.
К характерным особенностям функционирования сервиса относится то, что ChatGPT хранит и отображает в истории все прошлые диалоги с пользователем. Это требуется для удобства и последующего обучения на основе этих полученных ранее данных.
Примерно вечером 20 марта некоторые пользователи (подчёркивается, что строго ограниченное количество) начали замечать незнакомые беседы других пользователей в своей личной истории диалогов с чат-ботом. В компании OpenAI после появления соответствующих сообщений в соцсетях не стали комментировать эту ситуацию.
Но вскоре гендиректор Сэм Альтман заявил на своей странице в Twitter, что незначительный процент некоторых пользователей действительно смог увидеть в своей истории заголовки разговоров других людей с чат-ботом ChatGPT.
Позже выяснилось, что причиной демонстрации чужих разговоров третьим лицам стала программная ошибка в одной из библиотек с открытым исходным кодом. Компания OpenAI в предельно сжатые сроки представила патч, который полностью исправил эту ошибку. Однако некоторые эксперты по информационной безопасности оценивают эту ситуацию как утечку пользовательских данных, причём как достаточно серьезную.
Компания OpenAI заявила, что в скором времени будут представлены все детальные данные об этом инциденте безопасности, но после завершения внутреннего расследования. На данный момент, как отмечает ряд экспертов по защите информации, нет никакой уверенности в том, что какие-либо злоумышленники не смогли выгрузить диалоги пользователей с ChatGPT из системы, пока ошибка была актуальна.
Ранее сообщалось, что ряд крупных японских компаний решили существенно ограничить и даже запретить использование чат-бота ChatGPT в коммерческих целях.
Актуальные вакансии по ИБ: https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/
Больше интересного материала на cisoclub.ru. Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.