Сергей Александрович, согласно проведённому исследованию, чат-боты ставят неверные диагнозы на ранних стадиях заболевания более чем в 80% случаев. Ведущие ИИ-модели, включая разработки OpenAI и DeepSeek, критикуют за поспешные выводы. Результаты ставят под сомнение надёжность использования ИИ в здравоохранении. Согласно исследованию, популярные ИИ-модели, включая решения OpenAI и DeepSeek, склонны принимать диагностические решения преждевременно, особенно в условиях неполной информации о пациенте. Несмотря на то, что такие системы разрабатываются как помощники для врачей и пациентов, они зачастую делают выводы слишком быстро, не имея достаточных данных. Вот «нейродоктор» прописывает не ту пилюлю.С одной стороны, кажется, что всё это ерунда. Кто лезет в чат-боты проконсультироваться по медицинским анализам? Многие люди скажут: «Я туда не захожу. Мне достаточно добраться до аптеки, где куплю нужное лекарство». С другой стороны, внедрение ИИ в медицину – это сокращение персонала, уровня образования. В нашу медицину с такой скоростью и с таким стремлением внедряется ИИ, что человеку на основе тех данных, которые он о себе произнесёт, робот должен показать, что с ним происходит. Мы видим, что сейчас есть проблемы с Интернетом, а человек должен вбить в программу свои показатели, и робот сразу должен определить, к какому специалисту его направить. Наверное, в каких-то случаях это хорошо, что-то упрощает, а в большинстве случаев человека надо всё-таки осмотреть, что с ним происходит на самом деле. И кто будет нести ответственность? Сергей Александрович, Ваш самый главный и популярный посыл, который мне очень понравился, я взял на вооружение: «Выписал тебе робот неправильную пилюлю - и с кем ты будешь разбираться?»
Сергей Михеев: Насчёт всей этой кампанейщины: я уже говорил, что, с одной стороны, это очередное стремление построить «Вавилонскую башню», которая точно не достанет до неба. С другой стороны, отсутствие подлинного отношения к жизни заставляет обожествлять всякое «железо». Можно молиться и холодильнику, и компьютерной программе, и всему остальному. Я вижу, что сейчас камлание вокруг ИИ всё больше и больше приобретает характер секты, псевдорелигии.
Это очень долгая история, но для более приземлённого разговора скажу, что: 1. есть рассуждение, что «весь мир туда идёт - и мы должны идти туда же». Это рассуждение абсолютно зависимых, неспособных к собственному мышлению людей. Давайте сначала выясним, куда идёт весь мир. 2. Давайте выясним, не является ли всё это большим обманом. 3. Давайте выделим из этого то, что нам действительно нужно (оборона, наука, техника, производство), и поймём, что нам не нужно. Я пока не вижу такого стратегического подхода.
И ещё что самое важное: есть стремление решить сложные проблемы простым способом. «У нас не хватает врачей, им мало платят, нет мотивации. Давайте всё заменим компьютерной программой, чат-ботом и скажем, что проблема решена. А потом доложим главному начальству, что нам не нужны никакие врачи, - у нас компьютер всё за всех делает. Мы сможем сказать: «Смотрите, какая экономия бюджетных средств! Не нужны нам врачи - их ещё по семь лет учить! Сейчас понаставим программы, которые всё за всех решат»». Я думаю, что это очень простая, классическая история самообмана.
И ещё одна «замечательная» вещь: это про деньги. «Мало того, что мы сэкономим деньги на живых людях, а кто-то ещё заработает на неживых (установка оборудования, обучение непонятно чему и прочее)». Я уж не говорю про бесконечную цифровизацию учёта данных. Наверное, в этом есть какой-то смысл, но я уверен, что смысла особо никто не ищет, а стремится скорее-скорее доложить, что «всё решено, всё замечательно». А что будет с людьми? Как это будет сказываться на их здоровье? Это дело десятое!
Чиновники здравоохранения докладывают, что «всё хорошо», но многие врачи, которые знают мою позицию, говорят: «Вы совершенно правы – это навязывают со страшной силой, не спрашивая, надо или не надо, и непонятно, кто будет отвечать за результат, если вдруг что-то не так». Это интересная история, когда можно всё спихнуть на компьютер: «Не знаю, что его заглючило. Может быть, перепад напряжения. Я не виноват: он выдал это, а меня заставляют учитывать».
Насчёт чат-ботов даже не представляю, как этому можно доверять. Чат-бот собирает данные из Интернета и их суммирует. Что это за данные? Как он их суммирует? Какое это имеет к вам отношение? Например, у человека температура: что это означает? Это может означать всё что угодно. В большинстве случаев это означает грипп, простуду, но может означать и любое воспаление. Как вы об этом узнаете через чат-боты? Почему они популярны? Они позволяют рисовать картинки, «втирать очки» начальству, осваивать бюджетные деньги и рассказывать, что это «панацея от всего».
С практической точки зрения вижу только одно: они позволяют людям из гуманитарной сферы написать тексты. Там, где надо быстро скомпилировать текст или что-то быстро узнать, то да - там они нужны. Означает ли это, что чат-бот может лечить людей? Не знаю.
Мы долго говорили про военную операцию в Иране. Скажите, почему Дональд Трамп попал в такое положение, если у США есть мощность ИИ? Они не могли просчитать развитие ситуации? Или кто-то просчитал это за них, и поэтому они в таком незавидном положении? Или, если они могли просчитать, то почему у них получилось то, что получилось? Скорее всего, ИИ не просчитал человеческий фактор, а лишь посчитал количество боеприпасов, военной техники, сравнил возможности инфраструктуры. Потому что человеческий фактор не поддаётся цифровизации. Я абсолютно уверен, что, когда планировали операцию в Иране, проводились какие-то компьютерные расчёты и моделирование. Где же результат всего этого? Мы видим, что пока оно себя не оправдывает. Причина одна: человек сложнее - его трудно «посчитать на калькуляторе», а попытки всё свести к денежному фактору хотя иногда и работают, но, в общем и целом, проблемы не решают.
Такая же ситуация с образованием, медициной и всем остальным, куда хотят это без спроса внедрить. Какие-то задачи, конечно, можно решать или ускорить, но полностью возложить ответственность за лечение человека невозможно. Потому что человек слишком сложный: есть 500 000 случаев, 100 млн нюансов и т.д., хотя существуют и типовые вещи. Можно сказать, что он делает анализ большого объёма данных, и то не факт, что это может получиться.
Мы начинали разговор о Боге и можно этим закруглить беседу. Почему? Я лично знаю немало случаев, совершенно необъяснимых ситуаций, связанных с некими чудесными исцелениями. Не только теми, которые описаны в Библии, в Евангелии. Нам скажут: «Вы сами выдумали, поверили». Я знаю случаи, когда люди по необъяснимым (с медицинской и научной точек зрения) причинам получали исцеление. Какой тут ИИ? Что он может в этом понимать? Как он может это предвидеть? Я к чему? Да, есть типовые процедуры; есть ситуации, где он может помогать, но жизнь, мир, человек в целом гораздо сложнее, чем любая компьютерная система, как бы быстро она ни считала. Многие вещи не проверены.
Почему я говорю про «секту»? Многие вещи здесь просто принимаются на веру. Сейчас внедряется культ ИИ, который должен фактически стать религиозным культом. Как только вам сказали, что «это ИИ», то вы должны ответить: «Да, я согласен». А есть ли для этого основания? На мой взгляд, нет или их пока недостаточно. Есть сферы и области, где, конечно, новые алгоритмы, более мощные компьютерные программы могут принести пользу и должны применяться, а есть сферы, связанные с живым человеком, где надо быть крайне аккуратными, постоянно всё держать под контролем и точно не превращать это в псевдорелигию. Я уж не говорю про такие банальные вечные вещи, описанные тысячи лет назад, как: а. очковтирательство «наверх»; б. освоение бюджетных денег. Это никто никогда не отменит, даже ИИ. Я это вижу сейчас на примере эйфории по поводу ИИ.