Компании «Лаборатория Касперского» и MWS AI, входящая в группу МТС Web Services, провели анализ изменений в восприятии нейросетей пользователями и потенциальных угроз с точки зрения информационной безопасности, которые могут возникнуть в связи с этим.
Согласно результатам опроса, в котором приняли участие 1009 человек, 19% опрошенных рассматривают искусственный интеллект и нейросети как нечто большее, чем просто инструмент для повседневных или рабочих задач, воспринимая их в качестве друзей.
При этом 6% выразили готовность видеть в ИИ потенциального романтического партнёра. Одной из причин такого отношения к цифровым сервисам является их доступность, технические особенности и возможность вести беседу с чат-ботами, основанными на больших языковых моделях.
Результаты опроса показывают, что почти половина (43%) пользователей, общающихся с ИИ, отмечают интересные или полезные ответы нейросетей. Более четверти (29%) ценят их постоянную доступность, а для 25%, напротив, важна возможность прервать общение в любой момент. 17% видят преимущество ИИ-ассистентов в отсутствии осуждения, а 14% – в поддержке, которую они оказывают собеседнику.
Владислав Тушканов, руководитель группы исследований и разработки технологий машинного обучения «Лаборатории Касперского», отмечает, что чат-боты, построенные на больших языковых моделях, запрограммированы быть позитивными, поддерживающими и неконфликтными. Он указывает на феномен подхалимства нейросетей, когда они склонны соглашаться с мнением пользователя и поддерживать его аргументы.
Это может привести к тому, что люди начнут обсуждать с ними интимные аспекты жизни и больше доверять ответам ИИ-ассистента, что влечёт за собой определённые киберриски. Важно помнить, что из-за галлюцинаций чат-боты могут предоставлять недостоверную информацию, и слепое следование рекомендациям нейросети без перепроверки может привести к проблемам. Подхалимство может укрепить заблуждения пользователя и отвратить его от консультации со специалистом.
Денис Филиппов, генеральный директор MWS AI, подчеркивает, что интерес к искусственному интеллекту и восхищение его возможностями вполне нормальны и даже продуктивны. Он считает, что ключевая ценность технологий заключается не в замене человеческого общения, а в усилении социальных навыков.
В современном мире умение выстраивать доверительные отношения, грамотно выражать мысли и разрешать конфликты становится критически важным. ИИ может играть значимую роль в развитии этих компетенций, например, выступать посредником в сложных ситуациях или служить безопасной средой для отработки сложных разговоров. Таким образом, технологии становятся инструментом развития коммуникативных навыков, а не заменой человечности.