Искусственный интеллект залечил человека до смерти

В Швеции подняли вопрос о том, допустимо ли пользоваться искусственным интеллектом в областях, от которых зависит жизнь человека. Как пишет Nordic Times, дискуссия развилась после того, как начали поступать многочисленные сообщения об ошибках, которые совершал искусственный интеллект, используемый службой здравоохранения в регионе Евлеборг.

Когда человек в регионе вызывает медицинскую помощь по телефону или обращается за ней в режиме онлайн, ему необходимо пройти через чат-бота: искусственный интеллект задаёт ряд вопросов, после чего направляет пациента к необходимому врачу или вызывает скорую помощь.

Однако в последнее время сообщается о ряде случаев, когда чат-бот ошибался, что могло стоить жизни как минимум одному пациенту.

Искусственный интеллект выслушал пожилого мужчину, и постановил, что у него были лёгкие симптомы — и не счел необходимым вызвать неотложную помощь. Мужчина умер на следующий день. В отчёте об инциденте утверждается, что искусственный интеллект допустил ошибку в своей оценке, хотя и не удалось доподлинно установить, что именно это стало причиной смерти.

В другом подобном случае заключённая в тюрьме женщина пожаловалась на затруднённое дыхание, но вместо отделения неотложной помощи чат направил её на беседу с врачом в городской больнице.

По словам врачей, искусственный интеллект совершает слишком много ошибок: он не только часто недооценивает серьёзные симптомы, которые могут иметь опасные для жизни последствия, но и порой отдаёт слишком высокий приоритет пациентам с лёгкими симптомам, что создаёт неоправданную нагрузку на службы здравоохранения и вызывает задержки для тяжелобольных пациентов.

Отмечается, что это разработанное шведской компанией приложение используется в нескольких других регионах страны. Однако в ряде регионов уже отказались от услуг искусственного интеллекта после того, как выяснилось, что он в среднем неправильно оценивает трёх из десяти пациентов.

Ранее аналитики предупредили о том, что после широкого распространения ChatGPT количество вакансий для стажёров снизилось на треть.