Исследователи из Швейцарской высшей технической школы Цюриха, программы MATS и компании Anthropic выяснили, что большие языковые модели способны деанонимизировать пользователей.
Ученые из ETH Zurich, MATS и Anthropic провели исследование и пришли к выводу: анонимность в интернете перестала быть надежной. Модели искусственного интеллекта анализируют совпадающие фрагменты данных и особенности поведения и в большинстве случаев вычисляют реального человека за фейковым аккаунтом.
В ходе экспериментов ИИ в 68% случаев распознал поддельные учетные записи. Из них в 90% модель верно указала на настоящего владельца.
Авторы работы подчеркивают: раньше пользователи считали, что псевдонимы защищают, потому что целенаправленная деанонимизация требовала больших усилий. Теперь это предположение перестало работать.
Под удар попадают не только анонимные комментаторы. ИИ способен раскрывать имена хакеров, публикующих закрытые данные сотрудников. Может вычислить руководителей, которые под чужими именами продвигают бизнес или атакуют конкурентов (в таких действиях раньше признавался даже Илон Маск). Но главная угроза — для тех, чья жизнь зависит от анонимности: информаторов, активистов, жертв насилия.
Исследователи предлагают защитные меры: ограничить доступ к пользовательским данным через API, усилить защиту от автоматизированного сбора информации, запретить экспорт больших объемов данных. Но они признают: гарантий нет, и с каждым годом сдерживать ИИ будет все труднее.
Результаты исследования опубликованы в библиотеке препринтов arXiv.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: freepik