Когда я смотрю, как искусственный интеллект захватывает одну сферу за другой, мне становится и радостно, и жутко. Радостно от невероятного потенциала, который обещает решить наши самые застарелые проблемы. Но жутко от той легкости, с которой мы готовы отдать в руки бездушных алгоритмов самое ценное, что у нас есть, нашу жизнь и наше здоровье.
Посмотрите на медицину. Нас постоянно пугают ужасающей статистикой: ошибки в диагностике, которые ежегодно уносят сотни тысяч жизней; врачи, которые не успевают читать 160 часов в неделю, чтобы быть в курсе всех новых исследований; медицинские системы, созданные для выставления счетов, а не для помощи пациентам. В этот момент на сцену выходит ИИ в белоснежных одеждах, обещая стать Спасителем. Нам рассказывают о системах, которые точнее человека диагностируют рак легких (90% против 50%) и интерпретируют рентгеновские снимки в тридцать раз быстрее. Все это звучит как настоящая революция, как избавление от несовершенства. Но я, как журналист и просто человек, вижу в этой истории главный обман, за который медики по всему миру уже поднимают свой "бунт" и он не про лень, а про страх потери человечности.
Куда делся наш здравый смысл?
Самое большое заблуждение, которое, кажется, заразило нас всех, это склонность к антропоморфизации искусственного интеллекта. Мы наделяем эти алгоритмы человеческими качествами: мотивацией, желаниями, даже душой. Нам кажется, что если машина может обыграть чемпиона мира в шахматы или писать связные тексты, то она, должно быть, разумна и, главное, добра по своей природе.
Но позвольте мне развеять этот миф: ИИ это прежде всего технический продукт. Современный искусственный интеллект, которым мы располагаем, является узкоспециализированным, или «слабым». Он превосходно справляется с одной конкретной задачей, например, с распознаванием образов на медицинских снимках (радиология, дерматология, патологическая анатомия это его «золотая жила»). Но тот же алгоритм, который отлично прогнозирует рак, не сможет предсказать, когда начнется обед, или понять, почему вы грустите.
Мы слишком легко вручаем машинам полномочия, ошибочно полагая, что успех в одном контексте гарантирует надежность и в других. А ведь этот недостаток здравого смысла, эта «машинная глупость», как ее называют эксперты, несет реальный катастрофический риск. Мы больше боимся сверхразумных терминаторов, хотя на самом деле главную угрозу представляют идиотские программы, принимающие решения, для которых у них недостаточно ума.
Зачем нам нужен "черный ящик", если на кону наши жизни?
Вторая, и, пожалуй, самая острая проблема, вызывающая тревогу среди врачей, это полная непрозрачность работы алгоритмов, то, что мы называем «черным ящиком».
Представьте: вы приходите к врачу, и он, опираясь на рекомендации ИИ, назначает вам сложное, возможно, опасное лечение. Вы спрашиваете: «Почему именно это?» А он пожимает плечами: «Машина так решила. Я сам не знаю, как она пришла к этому выводу».
Невозможность объяснить логику ИИ это не просто техническая недоработка. Это этическая катастрофа, особенно в таких сферах, как медицина и юриспруденция. Пациенты имеют право знать, как именно ИИ оценил их данные и почему дал ту или иную рекомендацию. Врачи, а вместе с ними и больницы, несут ответственность за решения, принятые машиной, даже если алгоритм был разработан сторонней компанией.
Если бы ошибку совершил человек, то пострадал бы один пациент. Но если сбой дает система ИИ, контролирующая, например, дозировку инсулина, то это может обернуться осложнениями или гибелью для сотен или тысяч людей. Мы не можем позволить системам здравоохранения зависеть от решений, которые человек не в состоянии понять и проверить.
Почему ИИ не может заменить человеческую заботу?
Искусственный интеллект способен на многое: он может проанализировать миллионы медицинских записей и увидеть то, что недоступно даже самому опытному глазу. Но может ли он заменить доктора? Нет. И вот почему:
Машине не знакомо сострадание. Когда человек болеет, особенно тяжело, он становится уязвимым. Ему нужна не только точность диагноза, но и человеческая связь, эмпатия, сочувствие, забота. ИИ никогда не сможет сочувствовать, потому что у него нет ни чувств, ни понимания, необходимого для создания системы взглядов, как у человека. Врачи живые люди, и им необходим эмоциональный интеллект, чтобы выслушать пациента, понять его страхи и дать надежду. Если мы позволим машинам взять на себя все, кроме механической работы, мы потеряем самое главное гуманистическую связь между врачом и больным.
ИИ усугубляет неравенство. Алгоритмы обучаются на данных, которые мы им предоставляем. Если эти данные предвзяты а они почти всегда такие, то и решения ИИ будут несправедливыми. Например, системы диагностики рака кожи могут быть обучены на данных преимущественно белокожих пациентов и давать неверные результаты для людей с другим цветом кожи. Пристрастность, заложенная в обучающих данных, становится двойным ударом по уязвимым слоям населения, ограничивая их доступ к качественному медицинскому ИИ.
Наш единственный выбор: ИИ-помощник, а не ИИ-диктатор
Внедрение ИИ в медицину уже неизбежно, и этого не нужно бояться. Это мощный инструмент, способный избавить врачей от рутины от набора текста в электронные карты до анализа миллиардов снимков. Наша цель не в том, чтобы остановить прогресс, а в том, чтобы направить его.
Истинная медицина, о которой я мечтаю, основывается на синергии:
- Освободить врача для человека: ИИ должен взять на себя всю "механическую" работу (диагностика образов, сортировка данных, анализ исследований). Это вернет врачу время для полноценного общения с пациентом, чтобы он мог проявить ту самую глубокую эмпатию.
- Контроль и Прозрачность: Необходимо законодательное регулирование и строгие этические стандарты. Всегда должен быть человек, который проверяет выводы ИИ и несет ответственность. ИИ должен быть всего лишь советником и инструментом, а не автономным судьей.
- Создать демократичные данные: Для устранения предвзятости нам нужны огромные, всеобъемлющие и разнообразные наборы данных. Глобализация медицинских данных, где представлены все люди, позволит создать самообучающуюся систему здравоохранения, которая не будет дискриминировать.
История уже показала, что амбициозные обещания (как, например, провалившийся проект Watson в онкологии) разбиваются о суровую реальность: нехватка данных, сложный контекст и отсутствие реальных результатов.
Поэтому, когда в следующий раз вы услышите, что ИИ вот-вот заменит врачей, не верьте. Это не игра. Здоровье не игра.
Нам придется научиться доверять машинам, но никогда не доверять им безоговорочно. Если мы не научимся кодифицировать наши основные правила этики, мы рискуем заменить поверхностную человеческую медицину на бесчеловечную алгоритмическую.
Готовы ли мы, чтобы наша жизнь и смерть зависели от «черного ящика», в чьих руках сосредоточена эта невероятная, но слепая власть? И если мы не контролируем ИИ сейчас, то кто гарантирует, что он не будет впрыскивать нам «медленный яд» ложных надежд, лишая нас стимула к самосовершенствованию и смыслу?.