Пара “человеческий мозг + машинный помощник” должна справляться с задачей лучше, чем человек или искусственный интеллект по отдельности. Логичное предположение, не так ли?
Оказывается, нет. Или как минимум - не всегда.
В журнале Nature опубликованы результаты исследования специализированной языковой модели AMIE, “заточенной” на медицинскую диагностику (Towards accurate differential diagnosis with large language models | Nature). ИИ в сольном режиме дал 59% точности - отличный результат. Однако в варианте “врач + ИИ” точность уже 51,7%. А врач-человек без помощи ИИ поставил верных диагнозов только 33,6%. Правда, уточняют исследователи, в сложных клинических случаях.
Причин таких не слишком приятных для врачей результатов несколько. Все они так или иначе связаны с особенностями человеческого мышления. Это и определенная “заякоренность” на собственном опыте, и подсознательное желание упростить сложный случай до привычных шаблонов, и недоверие к выводам ИИ, “машинофобия”. С ней мы будем сталкиваться все чаще и в самых разных областях. В целом же картина вполне понятная, и даже причины ошибок в диагнозах предсказуемые.
Интересны выводы, которые сейчас будут делать из подобных результатов медицинские компании и органы здравоохранения. И есть у меня обоснованное опасение, что одной из самых популярных точка зрения у “эффективных менеджеров” и “передовых бизнесменов” будет та, которую огласил отечественный трансгуманист и бизнесмен Михаил Батин. Говорит он конкретно о борьбе со старением, но ход мыслей понятен: “Лучший способ усилить борьбу со старением - стремиться убрать человека из критических узлов, а не ставить рядом. Пусть даже в этом году ИИ слаб в продлении жизни. В следующем он будет все делать лучше человека”, - пишет трансгуманист.
Иными словами, вместо того чтобы качественнее обучать людей, повышать уровень профессиональной подготовки специалистов, разрабатывать методики, которые помогут снижать уровень когнитивных искажений, бизнесмен-трансгуманист предлагает полностью “освободить” от людей одну из ключевых сфер человеческой деятельности.
Отличное решение. Дешевое и эффективное. Мечта капиталиста.
И совершенно катастрофическое в стратегической перспективе. Я говорю даже не о рабочих местах и доходах врачей. Заглянем в “послезавтра”.
ИИ для обучения нужен постоянный поток новой информации. И соответствующее обучение. Как его можно организовать без врачей-людей и массы других специалистов?
Кто и как будет контролировать правильность поставленных диагнозов и назначенного лечения? Тоже ИИ-системы?
Прекрасно. Но откуда и как возьмутся новые поколения профессионалов, способных обучить, наладить и обслужить эти все более специализированные ИИ-системы? Они-то, эти профи, как будут набираться опыта?
И наконец момент, который отчего-то адепты “цифры” обходят молчанием: буквально все ИИ-системы критически зависят от электричества. Любая авария на энергосетях - и... человеку останется надеяться только на себя и свои знания. Что происходит с “цифровизированными” системами, хорошо было видно во время недавнего блэкаута в Испании и Португалии.
Но есть и более опасные последствия.
Оставим в стороне все морально-этические вопросы (включая вроде бы конспирологический: зачем нужна большая часть человечества, если ИИ отлично справляется с обслуживанием немногочисленной элиты?). Рассмотрим только вопросы безопасности.
Исключить человека из цепочек принятия решений - все равно что отключить мощную дублирующую или резервную систему. И одновременно убрать критически важное звено в цепочке принятия решений.
Если говорить прямо, это отказ от профессионального и творческого развития человека, признание поражения в гонке с искусственным интеллектом.
Только понимаете, какая штука. Искусственный интеллект целиком и полностью создан человеком и без постоянного обучения и направления со стороны человека очень быстро выродится. Во всяком случае - на нынешнем уровне развития.
Между тем исследования, как то, о котором я рассказал, очень полезны. Если делать из них правильные выводы. Понимать, что обнаруженные проблемы - это точки роста, совершенствования подготовки специалистов. В данном случае - медиков. ИИ-системы могут стать неоценимым инструментом, который будет помогать обнаруживать такие проблемные зоны, которые укажут, как растить профессионалов, куда им расти. Надо лишь грамотно этот инструмент использовать.
Увы, пока все чаще слышно: “Человек уступает ИИ”.
Интересно, с чего бы это?..
Автор: Максим Макаренков