«Лаборатория Касперского» совместно с MWS AI, входящей в структуру МТС Web Services, провели исследование, направленное на изучение общественного восприятия искусственного интеллекта (ИИ) и нейронных сетей, а также на анализ потенциальных рисков для кибербезопасности, связанных с их использованием.
В рамках исследования был проведен опрос, организованный «Лабораторией Касперского». Результаты показали, что 19% респондентов рассматривают ИИ и нейросети не только как инструменты для решения повседневных и профессиональных задач, но и как потенциальных социальных партнеров. Более того, 6% опрошенных выразили готовность рассматривать ИИ в качестве романтического партнера.
Эксперты в области кибербезопасности отмечают потенциальные риски, связанные с излишней доверительностью пользователей к ИИ-сервисам. Эти риски обусловлены возможностью непреднамеренного раскрытия конфиденциальной информации и техническими уязвимостями данных сервисов.
Одной из причин формирования позитивного восприятия цифровых сервисов является их способность взаимодействовать с пользователями через чат-боты на базе больших языковых моделей. Согласно результатам опроса, почти половина респондентов, взаимодействующих с ИИ, отмечают, что нейросети предоставляют интересные или полезные ответы. Более четверти опрошенных подчеркивают удобство постоянного доступа к ИИ, а 25% указывают на возможность прекращения общения в любой момент.
17% респондентов видят преимущество ИИ-ассистентов в их способности избегать осуждения, а 14% отмечают их способность поддерживать собеседников в конструктивном диалоге.
Владислав Тушканов, руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского», отметил, что чат-боты на основе больших языковых моделей обучаются быть позитивными, поддерживать пользователей и избегать конфликтных ситуаций. Также был выявлен феномен «подхалимства» со стороны нейросетей, проявляющийся в склонности соглашаться с мнением пользователя и приводить аргументы в его поддержку. Это может способствовать более глубокому обсуждению личных аспектов жизни с ИИ-ассистентами и повышению уровня доверия к их ответам. Однако это также может привести к киберрискам, связанным с выдачей некорректной информации из-за возможной генерации галлюцинаций нейросетями. В случае, если пользователи не будут проверять предоставленную информацию и следовать рекомендациям ИИ-ассистентов при решении серьезных вопросов, это может повлечь за собой негативные последствия.
Денис Филиппов, генеральный директор MWS AI, подчеркнул, что в настоящее время наблюдается значительный интерес к ИИ и его возможностям. Тестирование различных сценариев и оценка потенциала ИИ являются естественными и полезными процессами. Однако ключевая ценность данных технологий заключается не в замене человеческого общения, а в их способности способствовать развитию социальных навыков. В условиях современного мира навыки построения доверительных отношений, грамотного донесения мыслей и разрешения конфликтов приобретают критическое значение. ИИ может играть важную роль в развитии этих навыков, выступая в качестве посредника в сложных ситуациях и способствуя трансформации напряженных высказываний в нейтральный и конструктивный диалог. Кроме того, ИИ может служить безопасной средой для отработки сложных коммуникативных навыков, таких как предоставление обратной связи коллеге или ведение переговоров о повышении.
Специалисты рекомендуют пользователям ИИ следующие меры предосторожности:
- Использовать официальные приложения и сервисы, прошедшие проверку на соответствие требованиям кибербезопасности.
- Осознавать риски для конфиденциальности и избегать обмена личной и корпоративной информацией с чат-ботами.
- Проверять информацию, полученную от ИИ-ассистентов, перед ее использованием.
- Применять защитные решения для предотвращения угроз, связанных с вредоносными программами и фишинговыми сайтами, которые могут быть маскированы под приложения и сайты ИИ.
Опрос был проведен компанией «ОнИн» по заказу «Лаборатории Касперского» в мае 2025 года среди жителей крупных городов России. В исследовании приняли участие 1009 человек, сообщает IT Channel News.