Профильные СМИ «поймали» нейросеть Microsoft 365 Copilot на свободном чтении конфиденциальных электронных писем в обход настроек приватности на компьютерах с Windows. Сама Microsoft проблему уже признала — но исправлять её не спешит.
По имеющимся данным, Copilot Chat ещё в прошлом месяце начал обрабатывать письма из папок «Отправленные» и «Черновики» с пометкой конфиденциальности на общих основаниях, составляя сводки на базе приватной информации.
Доступ к такой корреспонденции в «рабочей» вкладке чат-бота (в теории) запрещён по умолчанию. Однако ИИ каким-то образом обошёл фирменную политику защиты от потери данных (Data Loss Prevention, или DLP).
Представители Microsoft подтвердили, что знают о проблеме с 21 января, и предположили, что такое поведение бота вызвано ошибкой в коде нейросети. Уязвимость, впрочем, до сих пор полностью не устранена: компания лишь связывается с некоторыми пользователями, чтобы оценить уже сделанные исправления.