Отгремели новости про искусственный “интеллект”. Пора и мне что-нибудь рассказать)

Почему слово интеллект в кавычках? - Его там пока нет и не предвидится в обозримом будущем. По сути - это пусть и очень сложный, но алгоритм. Своего рода формула с огромным количеством переменных.

Сама эта формула создается во время обучения нейронной сети, потом она статична.

В формуле, по которой нейросетевая модель выдает ответ, могут быть миллиарды переменных. И в этом большая проблема.

Ведь обучив нейросетевую модель, сегодня просто невозможно понять - почему она ответила так, а не иначе. На какие признаки она обращала внимание, чтобы дать тот ответ, который дала. Концептуально все эти chatGPT, midjourney - черные ящики, происходящее в которых нам неизвестно от слова совсем. Попытки создать нейросетевую модель, объясняющую свои решения или действующую прозрачно - ведутся. (https://bigcloud.global/the-difference-between-white-box-and-black-box-ai/)

Но проблема пока не решена, что не мешает внедрять подобные модели повсеместно, в том числе и медицину. Наиболее интересным выглядит использование нейросетей в лучевой диагностике для анализа КТ/МРТ/ПЭТ. Многие лучевые диагносты действительно убеждены, что скоро станут невостребованы из-за развития и внедрения данных алгоритмов.

INSIGHT MMG v1.1.7.2 - один из таких коммерческих нейросетевых алгоритмов, специализирующийся на анализе маммограмм и выявлении рака молочной железы. Работает она по следующему принципу - нейросети скармливают маммограмму. В результате она дает число в условных единицах. Если это число большое, то рак вероятен, если маленькое, то нет. Причем исследование проводили ежегодно в течение трех лет. (больше 100000 пациентов)

Интересные результаты его работы были опубликованы в уважаемом журнале - JAMA 03.10.24. (1)

Если циферки отличались на 20 у.е. от года к году, то, в последующем, вероятно - развивался рак, если на 10 у.е. или меньше, то рак в последующем не диагностировали.

Перефразируя, эта модель предсказывала развитие рака минимум еще за год до появления самого заболевания. Как? А никто не знает и узнать не может. Она не покажет стрелочкой на изменения в исследовании, которые склоняют ее выдать больше условных единиц.

А меня больше изумляет другая картина. Ученые мужи сидят у черного ящика, засовывая в него снимки. Ящик в ответ выдает циферки, которые ученые пытаются анализировать. О дивен новый мир. Или только меня это немного пугает?

2 минуты

16 октября 2024