Недавно на страницах Forbes появилась статья известного аналитика ИТ-индустрии Джейсона Блумберга (Jason Bloomberg), в которой автор исследует причины недоверия врачей-онкологов к искусственному интеллекту IBM Watson. Еще недавно внедрению технологий Big Data в сферу здравоохранения пророчили большое будущее. Вначале года эксперты британской аналитической компании GlobalData связывали с суперкомпьютером IBM Watson наиболее перспективный вектор развития онкологии. Однако в конце июля всплыли документы, которые свидетельствуют о ряде некорректных рекомендаций суперкомпьютера относительно лечения онкобольных.
Впервые искусственный интеллект Ватсон использовали в 2012 году специалисты онкоцентра Memorial Sloan-Kettering. Задача суперкомпьютера заключалась в предоставлении рекомендаций по лечению пациентов с онкологическими заболеваниями на основании огромного массива данных, который предварительно был загружен в систему. Данные включали истории болезней тысяч пациентов, используемые протоколы терапии, научные публикации по онкологии, справочники, заметки специалистов-онкологов, отчеты по лабораторным исследованиям.
По мере внедрения искусственного интеллекта IBM Watson в престижные клиники мира, доверие к нему все больше укреплялось. В прошлом году суперкомпьютером заинтересовались в странах СНГ. В частности, решение о его использовании было принято правительством Казахстана.
Однако после событий июля 2018 года надежды на Ватсон среди онкологов пошатнулись. В прессу попали документы, датированные серединой 2017 года, которые свидетельствуют об ошибках суперкомпьютера. Например, рассматривается инцидент, когда онкобольному центра Memorial Sloan-Kettering с кровотечениями согласно рекомендациям искусственного интеллекта назначался препарат, усиливающий данный побочный эффект. Специалисты Memorial Sloan-Kettering внесли уточнения: рекомендации были гипотетическими и не применялись.
Ватсон для онкологии должен был синтезировать огромные объемы данных и генерировать новые идеи. С 2015 года суперкомпьютер дал рекомендации почти для 60 тысяч пациентов. Однако процесс принятия решений искусственным интеллектом, как правило, слишком сложен для понимания большинства людей. Если бы онкологи поняли, как Ватсон пришел к своим решениям, уровень доверия, возможно, был выше. Причину незначительного процента ошибок тоже, возможно, удалось бы устранить. Джейсон Блумберг подчеркивает: критическим требованием для искусственного интеллекта в сфере здравоохранения становится «объяснимость».
