Эксперты Mozilla в своем новом отчете предупредили пользователей чат-ботов для «взаимоотношений» на базе искусственного интеллекта, что их данные и конфиденциальность находятся под угрозой после сбоя во всех 11 протестированных ими приложений.
Некоммерческая организация Mozilla выбрала «День святого Валентина», чтобы опубликовать новое исследование чат-ботов в рамках своей многолетней серии отчётов Privacy Not Included.
С тех пор, как на сцену вышел генеративный искусственный интеллект (GenAI), произошёл взрывной рост числа чат-ботов для романтических отношений или отношений, которые позиционируются как обеспечивающие общение одиноким сердцам. Однако на самом деле они либо намеренно, либо по халатности игнорируют лучшие практики конфиденциальности и безопасности, утверждает Mozilla.
«Говоря прямо, подруги с искусственным интеллектом — вам не друзья», — сказал исследователь Mozilla Миша Рыков. —«Хотя они позиционируются как нечто, что улучшит ваше психическое здоровье и благополучие, они специализируются на создании зависимости, одиночества и токсичности, при этом вытягивая у вас как можно больше данных».
Все 11 чат-ботов, прошедших оценку в этих тестах, включая такие названия, как Romantic AI, Talkie Soulful AI и EVA AI Chat Bot & Soulmate, были отмечены предупреждающей надписью «Privacy Not Included». Это выделяет эту категорию как одну из худших, когда-либо рассматриваемых некоммерческой организацией с точки зрения конфиденциальности.
Чат-боты в общей сложности скачали более 100 миллионов пользователей из Google Play, но большинство из них имеют ряд проблем с конфиденциальностью и безопасностью, в том числе:
- Нет общедоступной информации о том, как они устраняют уязвимости безопасности (73%).
- Нет чёткой информации о шифровании и о том, используют ли они его (64%).
- Разрешение использовать слабые пароли, в том числе «11111» (45%).
- Продажа пользовательских данных, передача их для целевой рекламы или отсутствие достаточной информации в своей политике конфиденциальности, чтобы подтвердить, что они этого не делают (90%).
- Запрет на удаление персональных данных (54%).
Полная версия отчета представлена здесь.
Оригинал публикации на сайте CISOCLUB: "Mozilla: романтические чат-боты с искусственным интеллектом не прошли тест на безопасность и конфиденциальность".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.