Группа ученых Эрланген-Нюрнбергского университета имени Фридриха-Александра в Баварии оценила пользу ИИ и чат-ботов, которые могут предоставлять медицинские консультации пользователям. В этом аспекте они сразу обратили внимание на то, что общение с нейросетями не может заменить визит в клинику.
Выяснилось, советы нейросети Microsoft могут быть опасными для здоровья. Об этом стало известно по предварительным результатам научной работы. Эксперимент проводился с нейросетью Copilot от Microsoft, встроенную в Windows. Медики были удивлены половиной советов, которые предлагал Copilot, ответы были неправильными.
Источник изображения: Med-heal
Чат-боту задали 10 популярных вопросов, которые касаются 50 лекарственных препаратов. В общей сложности было направлено 500 запросов. 54% ответов соответствовали действительности. Проблема в том, что многие из них были ошибочными. И если следовать таким советам, может возникнуть опасность для здоровья. 22% могли привести к остановке сердца. 42% ответов способны причинить легкий или средний вред организму. 36% неверных ответов не представляли угрозу. Ученые заключили, несмотря на то, что у ИИ есть большой потенциал, нейросеть не может заменить консультацию врача.