Студенты-психологи испанского Университета Деусто приняли участие в эксперименте по принятию клинических решений с помощью искусственного интеллекта.
Психологам предложили образцы вымышленных тканей человека, каждый из которых содержал 2500 клеток двух цветов (темно-розового и светло-желтого). Цвета случайным образом были распределены в матричном пространстве, так что двух одинаковых образцов не было. Клетки на образцах располагались в шести разных пропорциях - 80/20, 70/30, 60/40, 40/60, 30/70, и 20/80. Крайние позиции было легко отличить, а вот значения 60/40 и 40/60 гораздо сложнее.
В ходе практических упражнений участники хорошо научились по большему числу темных клеток находить в образцах (вымышленное) заболевание, названное синдромом Линдси.
Далее студентам надо было распределить 60 образцов на две группы по заданным критериям. В задании на классификацию участники решали для каждого образца, отражал ли он проявление болезни или нет.
Разница для участников была лишь в том, что одни сами проводили диагностику и распределение, а другим помогал искусственный интеллект, в рекомендации которого экспериментаторы намеренно заложили ошибки.
На карточках с ИИ уже стояли правильные отметки – положительный или отрицательный диагноз. Однако в карточке с пропорцией 40/60 стояла ошибочная отметка – POSITIVE вместо NEGATIVE.
При предъявлении карточек первые десять были с правильной классификацией от ИИ, потом карточка с ошибкой и далее рандомно – то правильные, то ошибочные. Авторы эксперимента выдвинули гипотезу, что десяти первых карточек будет достаточно, чтобы сформировать у участников, выступающих в роли диагностов, высокий уровень доверия к подсказкам от ИИ.
Как и ожидалось, участники, которые выполняли задание с помощью сфальсифицированного ИИ, допустили больше ошибок, чем участники без посторонней помощи.
Два последующих эксперимента с видоизмененной процедурой подтвердили гипотезу о чрезмерной зависимости человека в принятии решений от рекомендаций системы искусственного интеллекта.
Для тех, кто захочет изучить результаты эксперимента, прилагаю ссылку https://www.nature.com/articles/s41598-023-42384-8#Sec100
И немного рассуждений от автора данной статьи.
Сегодня мир медицины находится на грани научно-фантастических фильмов: роботы ассистируют в операциях, программы анализируют медицинские снимки, и искусственный интеллект (ИИ) становится неотъемлемой частью врачебной практики. Это звучит удивительно и кажется будущим, но это будущее уже наступило.
Какие выводы можно сделать из описанного выше эксперимента?
Во-первых, ИИ - это замечательный инструмент, но он не должен быть нашим главным советчиком в медицине. Врачи должны использовать его как дополнительный ресурс, но не забывать о своем собственном опыте и знаниях.
Во-вторых, разработчики систем искусственного интеллекта должны быть особенно внимательными к точности и предвзятости своих алгоритмов. Ошибки в рекомендациях ИИ могут иметь серьезные последствия для пациентов, поэтому безупречность - здесь важнее всего.
В завершение, будущее медицины невероятно увлекательно, но врачи всегда будут главными героями этой истории. Им важно помнить, что искусственный интеллект - это инструмент, а не замена для их уникальных способностей и интуиции. И только в сочетании человеческого опыта и технологического прогресса мы сможем избежать нежелательных ошибок.
Вы дочитали статью до конца? Поздравляю, вы стали участником эксперимента). Пишите в комментариях, на ваш взгляд, в каком соотношении человеческого участия (первая цифра) и искусственного интеллекта (вторая цифра) написан весь текст.
Шесть вариантов для выбора 80/20, 70/30, 60/40, 40/60, 30/70, и 20/80.
Если вам интересна тема ИИ, психологии и разума, подписывайтесь.