Исследователи проверили, как ставят медицинские диагнозы 21 модель чат-ботов — ChatGPT, Claude, Gemini, DeepSeek и другие. Выяснилось, что когда данных мало и нужно хотя бы предположить диагноз, они ошибаются в 80% случаев. Стоит ли давать нейросетям больше данных о себе и своём здоровье? Обсуждаем в нашем эфире во ВКонтакте и на Ютубе.
Исследователи говорят, что когда моделям дают полный набор данных — симптомы, анализы, историю болезни — точность резко растёт. И в некоторых задачах они выходят на очень высокий уровень.
То есть если написать коротко: «болит голова», «давит в груди», — модели не хватает данных, и она начинает угадывать. Добавляем детали — ответы сразу же становятся точнее. Получается, чтобы получить более точный ответ, нужно раскрывать больше личной информации. А иногда, в сложных случаях, почти всю медицинскую историю. Но готовы ли мы отдавать нейросетям такие данные?
Люди обращаются к чат-ботам, потому что это просто и быстро: не нужно записываться к врачу, ждать очереди. Но, во-первых, нейросети не заменяют врача, хоть и могут помочь разобрать симптомы, объяснить анализы, подсказать, что спросить на приёме у доктора. Но есть и риск. Нейросеть может ошибаться очень уверенно и выдать на первый взгляд логичный, но в корне неверный ответ. Она не видит человека и, хоть и задаёт уточняющие вопросы, не смотрит на реакцию и не перепроверяет ответы.
А ещё обычный чат-бот — это не медицинская система с врачебной тайной. А пользовательское соглашение никто обычно не читает. Даже если сервис обещает защиту данных, то всё равно уровень ответственности у него совершенно другой, чем у врача.
Поэтому не нужно передавать чат-боту персональные данные. Замазывайте хотя бы имя и фамилию и убирайте всё, по чему вас можно узнать. Не загружайте документы целиком и проверяйте настройки приватности.