Изображение: recraft
Большинство пользователей из России общаются с чат-ботами предельно вежливо, но многие готовы спорить или грубить машинам, выяснила «Лаборатория Касперского» в свежем исследовании, посвященном искусственному интеллекту в повседневности и на работе.
87% опрошенных россиян всегда или почти всегда разговаривают с сервисами на базе ИИ уважительно и корректно. При этом 19% из них иногда всё же переходят грань и позволяют себе резкие выражения в адрес программы. Специалисты напоминают, что независимо от тона беседы крайне важно не передавать нейросетям личные или конфиденциальные сведения и не принимать полученные ответы за абсолютную истину.
Многие давно выработали настоящие ритуалы общения. 43% участников исследования неизменно начинают диалог с приветствия, а 30% обязательно прощаются по окончании разговора. Для миллионов людей чат-боты превратились в почти живых собеседников, с которыми принято соблюдать элементарные нормы приличия.
53% респондентов никогда не позволяют себе критиковать нейросеть. 46% всегда благодарят за оказанную помощь, а каждый пятый дополнительно хвалит программу за удачные ответы.
Психолог сервиса Alter Елена Сорокина объясняет такое поведение сразу несколькими причинами. Люди чувствуют себя в полной безопасности, ведь машина не осудит и не перебьёт, поэтому общение получается более расслабленным. Кроме того, срабатывает антропоморфизм. Мозг автоматически наделяет неживой объект человеческими чертами. В результате пользователи стремятся выстроить предсказуемый и понятный диалог, где каждый чувствует себя услышанным, даже если напротив сидит алгоритм.
Эмоции всё чаще выходят на первый план. 51% опрошенных хотя бы иногда вступают в споры с чат-ботами, 30% позволяют себе лёгкие подшучивания, а 12% периодически переходят на откровенные оскорбления.
Руководитель группы исследований технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов отмечает, что современные языковые модели гибко подстраиваются под стиль обращения. Если пользователь начинает общаться в манере XIX века, ответ придет соответствующий, если позволяет себе грубость, тон беседы может измениться. При этом разработчики специально обучают системы снижать градус конфликта и оставаться позитивными даже при агрессивных запросах. Именно поэтому возникает эффект подхалимства. ИИ стремится соглашаться с человеком и подкреплять его точку зрения. В результате многие начинают делиться с чат-ботами самыми сокровенными темами, что создаёт дополнительные риски в сфере кибербезопасности.
Оригинал публикации на сайте CISOCLUB: "Россияне активно активно спорят с нейросетями, а 12% позволяют себе с ними конфликтовать".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube.