Романтические чат-боты имитируют общение с партнёром. Есть также ИИ-компаньоны, которые предполагают скорее дружескую переписку, но при этом позволяют пользователю воплощать свои фантазии.
Такие приложения провоцируют пользователей делиться с ними очень личной информацией, в том числе отправлять им свои фотографии и аудиосообщения. Звучит небезопасно, не правда ли? Между тем, подобные приложения с романтическими ИИ для Android скачали уже более 100 миллионов раз.
В недавнем исследовании Mozilla Foundation рассказали о проблемах с приватностью в таких приложениях. Например, в среднем за первую минуту после запуска в них используется 2 663 трекера в минуту. Одно из приложений, Romantic AI, за первую минуту общения с пользователем активировало 24 354 рекламных трекера.
О большинстве таких приложений нет точной информации, какие именно данные о своих пользователях они могут продавать рекламодателям. Также неизвестно, как сами компании используют эти данные — например, дообучают ли на них модели.
Кроме того, не всегда ясно, кто владеет приложениями и на основе каких моделей они сделаны. Последнее, впрочем, неудивительно, ведь OpenAI — один из крупнейших игроков на рынке — формально запрещает создавать романтические чат-боты на основе их ChatGPT. Тем не менее, после запуска GPT Store его заполонили искусственные девушки.
Ещё одна проблема романтических чат-ботов: они могут поддерживать пользователей в их опасных желаниях — как по отношению к себе, так и по отношению к окружающим.
В общем, если подумываете поэкспериментировать с романтическими чат-ботами, рекомендуем делать это с осторожностью.