Можно ли доверять нейросетевым алгоритмам “ИИ” в медицинских вопросах? Если да, то на сколько

Можно ли доверять нейросетевым алгоритмам “ИИ” в медицинских вопросах? Если да, то на сколько?

Еще большей маркетинговой шелухой, чем современный робот для хирургии, я нахожу нейросетевые алгоритмы, гордо именуемые искусственным интеллектом.

Непрозрачность работы алгоритмов - не только снижает доверие к результатам, выдаваемым алгоритмами, но и не позволяет исправлять уже обнаруженные ошибки.

В защиту своей позиции о сырости технологии и ее архитектурно закрепленной бесполезности от 2024 г. (https://dzen.ru/media/id/625749c5368a4b532ed410e4/otgremeli-novosti-pro-iskusstvennyi-intellekt-pora-i-mne-chtonibud-670f8fa8cf1eb8124d0da9f2) добавлю: нейросетевые алгоритмы по-прежнему не внедрены ни в один успешный коммерческий проект. Даже OpenAI с их chatGPT - глубоко убыточны по отчетам. Но нас ведь интересуют результаты в медицине.

Мое мнение - если нейросетевой алгоритм впечатляет вас знаниями в какой-либо области, то означает это только одно - в данной области вы не разбираетесь вовсе или крайне поверхностно. Но то мое субъективное мнение, а есть статья, опубликованная в журнале экспериментальная урология: “Чат-боты в онкоурологии: Оценка достоверности и качества медицинской информации.”

Материалы и методы:

Авторы проанализировали наиболее популярные запросы об онкоурологии в поисковых сервисах. После стали задавать их наиболее известным чат-ботам (ChatGPT, Perplexity, YaGPT, GigaChat). А выдаваемые результаты проанализировали с помощью инструмента DISCERN, также предложили оценить результаты 50-и онкоурологам со стажем более 10 лет. Оценка произведена по пятибальной шкале.

Результаты:

- Достоверность выдаваемых ответов оценена в ~3 (1.2-3.8) балла, а качество ниже двух (1-2.2). Занавес.

Резюмируя:

- Доверять нейросетевым алгоритмам можно, если вас устроят недостоверные ответы.

- Критическое мышление и умение работать с информацией будут цениться еще больше.

- По-прежнему считаю современные ИИ - тупиковым направлением по фундаментальным причинам.

- Не стоит слепо доверять нейросетевым алгоритмам. Они лишь умело имитируют связную речь. Должен признать, что в последнее время очень умело.

P.S. Оригинал статьи ниже.

P.P.S. Тут скрестили хирургического робота с искусственным интеллектом. Интересно что получилось?