С нейросетью не следует делиться информацией, которую пользователь не готов увидеть в открытом доступе. Относиться к общению с алгоритмом нужно так же, как к общению на публичном форуме, заявил в беседе с Москвой 24 эксперт по информационной безопасности Алексей Горелкин.
Так он прокомментировал новость о том, что в России зафиксировали значительный скачок числа обращений к ИИ-помощнику для расшифровки медицинских анализов. С мая по октябрь этого года число таких промтов к искусственному интеллекту увеличилось более чем в 8 раз, а доля тех, кто обращается к ИИ за рекомендациями по дальнейшим действиям, выросла с 4 до 41%.
"Рост числа запросов к нейросетям на медицинские и психологические темы действительно очень велик и продолжает увеличиваться. Это связано в первую очередь с низким порогом входа: человеку психологически проще задать вопрос безличному алгоритму, чем искать специалиста, открываться и рассказывать о проблемах другому", – сказал Горелкин.
Он назвал серьезной проблемой рост количества запросов к ИИ психологического характера. По его наблюдениям, психологи фиксируют увеличение числа разводов из-за того, что вместо обращения к специалистам люди советуются с нейросетью.
"Алгоритм, стремясь поддержать пользователя, часто однобоко поддерживает его точку зрения, рисуя упрощенную картину, где партнер предстает исключительно виновным, хотя реальные отношения и человеческая психология гораздо сложнее", – пояснил эксперт.
Говоря о медицинских запросах, он рассказал, что ИИ может давать нормальные общие советы и обращать внимание на определенные симптомы, чтобы позже пользователь мог сообщить о них врачу. Однако разработчики нейросетей осознают риски и поэтому внедряют дисклеймеры о том, что ИИ не является специалистом.
"Важно понимать, что нейросеть знает меньше, чем профильный специалист, а медицина – очень сложная и индивидуальная дисциплина. Один и тот же симптом, например повышенный сахар в крови, у разных людей может иметь совершенно разное объяснение. Поэтому, хотя нейросеть и может быть первым шагом для получения общей информации, она ни в коем случае не должна заменять консультацию с квалифицированным специалистом", – уточнил Горелкин.
Он указал, что прямая привязка информации к конкретной личности маловероятна, но любые данные, в том числе медицинские, могут быть использованы для обучения алгоритмов и улучшения качества ответов.
"Хотя никто явно не укажет, что конкретная информация поступила именно от вас, сами данные могут быть использованы в обобщенном виде для формирования будущих ответов", – заключил эксперт.
Ранее исследование дейтинг-центра показало, что 70% мужчин и 59% женщин готовы обратиться за советом по отношениям к ИИ. При этом 42% опрошенных мужчин уже обсуждают с нейросетью личную жизнь, еще 34% готовы попробовать. Женщин оказалось меньше – 24% обращаются к ИИ за советом, еще 54% заявили о готовности сделать это.
Читайте "Москва 24" в Telegram - подписаться