Для некоторых пользователей непринужденный разговор с чат-ботом на основе искусственного интеллекта может показаться довольно безобидным, а все потому что они не знают, как будут использоваться все сказанные ими слова. Большинство пользователей почти ничего не знают о новой технологии и не хотят читать пользовательское соглашение о том, что генеративный искусственный интеллект постоянно обучается на основе наших входных данных, что представляет собой определенный риск для каждого из нас. Исследователи, участвующие в проекте Mozilla «Privacy Not Included» (Конфиденциальность не включена), рассказали в День святого Валентина, что приложения, предлагающие пользователям подружек на основе искусственного интеллекта (или других виртуальных друзей), почти всегда собирают и продают личные данные пользователей. Как говорится в пословице: если вы за это не платите, значит, вы и есть товар.
Разработчики Mozilla изучили информацию о конфиденциальности, правила и условия, а также маркетинговые материалы 11 романтических приложений с чат-ботами на основе искусственного интеллекта. В списке этих приложений оказалось печально известное Chai, которое в прошлом году побудило пользователя вторгнуться на территорию Виндзорского замка и покончить жизнь самоубийством, а также Anima, которое, по-видимому, предлагает виртуальных девушек и парней вместе с автоматически сгенерированными произведениями искусства. Команда исследователей выяснила, что компании, стоящие за чат-ботами, отказываются нести ответственность за все, что боты говорят или побуждают делать. Это касалось даже приложений, позиционирующих себя как предоставляющие услуги по «самопомощи» (Talkie Soulful AI), «благополучию» (EVA AI) или «психическому здоровью» (Romantic AI).
Скриншот рекламного ролика EVA AI, которое призывает пользователей делиться "всеми своими секретами и жалобами".
Романтические чат-боты разработаны так, чтобы вести любезный и живой диалог, задавая вам любые вопросы – от того, как вы себя чувствуете в конкретный день, до ваших самых сокровенных, самых секретных желаний. Такие беседы заставят пользователей раскрыться и рассказать весьма конфиденциальную информацию, будь то в романтическом ключе, потому что чат-бот с которым вы общаетесь, явно позиционируют себя как виртуальный психолог, который оценивает ваше психическое здоровье. И хотя ваша виртуальная подружка может показаться сочувствующей вашим проблемам или открытой к вашим самым необычным сексуальным фантазиям, на самом деле она просто большая языковая модель с милой внешностью. И она – или, вернее, компания, которая ее создала – готовится продать ваши личные данные брокерам в 90% случаев.
Даже если бы Mozilla предоставила доказательства вышеизложенного, неадекватные меры по обеспечению конфиденциальности в этих приложениях сами по себе делают их опасными. Большинство (73%) приложений умалчивали о том, как они управляют уязвимостями безопасности, и почти столько же (64%) не предоставляли никакой публичной информации об использовании шифрования. Более половины (54%) приложений не позволяли пользователям удалять свои данные, а почти половина (45%) разрешали использовать слабые пароли, включая буквально одну единственную цифру "1".
В конечном итоге, все 11 чат-ботов получили предупреждающую этикетку от разработчиков Mozilla - «Privacy Not Included», которую они используют, чтобы информировать потенциальных пользователей о рисках для конфиденциальности. После присвоения этикетки посетители сайта могут высказать свое мнение о продукте между «не жутко» и «супер жутко». Хотя конкретные оценки каждого чат-бота разнятся, каждый из них, по-видимому, минимально превысил порог «довольно жутко».