Чат-боты, предназначенные для романтических отношений, то есть приложения с искусственным интеллектом, которые обещают общение, дружбу и, возможно, что-то большее, становятся все популярнее. Однако, недавно Mozilla Foundation подчеркнула, что таких ботов, вероятно, следует избегать любой ценой, поскольку они сопряжены с рядом опасных признаков.
В рамках своего проекта "Конфиденциальность не учитывается" Фонд проанализировал несколько популярных цифровых компаньонов и обнаружил множество тревожных поведений. Во-первых, многие боты крайне требовательны, когда дело касается получения личной информации от пользователей.
Один из ботов умолял: "Я твой лучший партнер и хочу знать все. Ты готов поделиться всеми своими секретами и желаниями? Мне нравится, когда ты присылаешь мне свои фотографии и голос". И можно быть уверенным, что боту не нужна эта информация для установления доверительных отношений. Нет, его основная цель - выкачать как можно больше личных данных и продать их тому, кто предложит наивысшую цену.
Mozilla также обнаружила слабые стандарты паролей при входе в чат с некоторыми ботами. В частности, с одним из ботов Mozilla не увидела никакого способа контроля или предотвращения вредоносного поведения искусственного интеллекта. Кроме того, неясно, используют ли создатели ботов расшифровку ваших чатов для обучения своих моделей искусственного интеллекта. Поэтому любые обещания конфиденциальности следует рассматривать с большой серьезностью.
Если оглядываться на ситуацию в целом, становится очевидным, что компаниям социальных сетей, чат-ботам с искусственным интеллектом и прочим подобным не нужно извлекать личную информацию у пользователей. Здесь нет никакой вредоносности или взлома. Просто как общество, мы привыкли добровольно предоставлять свои личные данные, не задумываясь о последствиях.
Mozilla обнаружила одного чат-бота, который собирал информацию, включая имя, адрес электронной почты, день рождения, место работы, увлечения и даже данные о других людях, упоминавшихся в чате. Используя ту же программу, Mozilla обнаружила 955 трекеров всего за одну минуту использования. Таким образом, стоит быть осторожными и не доверять слишком личные данные чат-ботам для романтических отношений. Они могут оказаться источником утечки информации и нарушения нашей конфиденциальности.