Цифровой век ознаменован беспрецедентным ростом технических инноваций, определяющих сущность и характер взаимодействия человека с компьютером [1]. Впечатляют масштабы распространения искусственного интеллекта, который в современном мире успешно внедряется в самые разные сферы жизни [2]. Для сферы здравоохранения повсеместное применение ИИ также открывает беспрецедентные возможности, которые в конечном счете нацелены на повышение качества медицинской помощи и улучшение исходов лечения пациентов [3]. По мере приближения общества к будущему с ИИ важной темой становится разработка улучшенных моделей ИИ с диалоговым интерфейсом.
Эта революционная технология в корне изменила принципы нашего взаимодействия с машинами и глубоко повлияла на многие сферы жизни [1]. Один из примеров внедрения технологий на базе ИИ в здравоохранении — виртуальный собеседник, или чат-бот. Благодаря использованию автоматических правил, технологий обработки текстов на естественном языке (NLP) и технологий машинного обучения этот ИИ-инструмент позволяет обрабатывать данные и реагировать на различные типы запросов. В последние годы все больше компаний, в том числе и в сфере здравоохранения, начали использовать чат-боты для решения задач, связанных с обслуживанием клиентов, маршрутизацией запросов и сбором информации [3]. Такие виртуальные помощники помогают медицинским специалистам организовать их рабочие процессы и повышают уровень удовлетворенности пациентов [4].
30 ноября 2022 года компания OpenAI (Сан-Франциско, штат Калифорния, США) представила новый чат-бот на базе ИИ — Генеративный предобученный трансформер (Chat Generative Pre-trained Transformer, ChatGPT) [5–7]. С появлением языковой модели нового поколения в обществе поднялась волна обсуждений относительно увлекательных (и вместе с тем потенциально опасных) трансформаций, которые может принести в нашу жизнь ИИ в будущем [5]. Благодаря широким возможностям этот чат-бот оказался высоко востребован во всех профессиональных сферах [8,9]. Новая модель с впечатляющим число параметров — 175 миллиардов — оказалась одним из самых масштабных и эффективных инструментов ИИ-обработки, получившим широкое применение в самых разных направлениях деятельности [9].
В основе данной языковой модели лежит принцип глубокого обучения, который в ответ на текстовые запросы генерирует ответы, максимально приближенные к естественному человеческому языку. Высокий технологический уровень и универсальность в создании ответов на естественном языке делает ChatGPT оптимальным инструментом для персонализированных медицинских приложений [10]. Возможности машинного обучения позволили преодолеть в ChatGPT ограничения стандартных чат-ботов и вывести взаимодействие на уровень интерактивного общения, более приближенного к человеческому [1].
В центре всеобщего внимания ChatGPT оказался по причине его универсальной способности решать разные задачи, связанные с обработкой естественного языка [11]. Его триумфальное появление обозначило новую веху в истории развития чат-ботов этого класса. Привлечение миллиона пользователей в первые пять дней после выпуска приложения свидетельствует о его высокой востребованности в повседневной жизни. Впоследствии успех только нарастал: уже через два месяца число пользователей достигло 100 миллионов, и ChatGPT стал самым быстрорастущим пользовательским приложением в истории [5,12].
Чтобы понять все возможности ChatGPT в сфере здравоохранения, необходимо разобраться в его происхождении и технологической основе [4].
Что такое ChatGPT?
В названии ChatGPT отражена специфика приложения как чат-бота, то есть программы, способной распознавать и формировать текстовые ответы [13]. Эта сложная модель машинного обучения известна исключительной точностью решения задач по формированию ответов на естественном языке (NLG). На основании вводных данных ChatGPT создает текст, который имитирует человеческую речь [7]. Имеются отдельные свидетельства о наличии у ChatGPT способности формировать дедуктивные рассуждения, выстраивать цепочка пошаговых логических выводов и распознавать отдаленные зависимости [11].
Благодаря способности работать с несколькими языками, которые с помощью усовершенствованных технологий моделирования позволяют системе формировать более точные и сложные ответы, ChatGPT превосходит своих предшественников на базе технологии генеративного предобученного трансформера (GPT) [13]. ChatGPT в корне изменил наши представления о возможностях чат-бота на базе ИИ. Все это стало возможным благодаря его впечатляющей креативности и беглости! [14]
Как функционирует ChatGPT?
ChatGPT основан на архитектуре GPT, платформе нейронной сети, специально разработанной для обработки естественного языка и формирования выходных данных, соответствующих контексту [13]. Используя обширный массив данных из разных источников, чат-бот обрабатывает их с помощью модели-трансформера для установления связей между разными фрагментами информации и обоснованного прогнозирования подходящих текстов, формируемых в различных контекстах [15].
Для первичного обучения ChatGPT использовали обширную базу данных, найденных в интернете, и методики контролируемого обучения. Затем модель прошла обучение с подкреплением на основе отзывов людей, в результате чего была сформирована модель вознаграждения для обучения с подкреплением [7]. В отличие от более ранних моделей ИИ, основанных в основном на технологиях глубокого обучения, ChatGPT относится к новой категории на базе больших языковых моделей (LLM). Модели LLM разработаны для прогнозирования вероятности использования данной последовательности слов на основании контекстной информации из предшествующих слов.
При обучении с использованием обширных текстовых данных с помощью моделей LLM можно формировать новую последовательность слов, которая не была напрямую выявлена моделью, но согласуется с естественными шаблонами человеческого языка.
ChatGPT разработана на основе GPT3.5, модели LLM, обученной с использованием обширной базовой модели параметров OpenAI 175B, которая охватывает обширный массив текстовых данных из интернета. Процесс обучения предусматривает использование методик с подкреплением и контролируемых методик [11].
Для чего используют ChatGPT?
Недавно выпущенный чат-бот ChatGPT создан для того, чтобы сделать нашу жизнь проще [15]. ChatGPT — пример генеративного ИИ, поскольку он способен генерировать полностью новый контент, организуя уже существующую информацию новыми способами [3]. Данная языковая модель ИИ использует обширные метаданные из интернета и отличается способностью распознавать входные данные на естественном человеческом языке и формировать выходные данные, которые легко воспринимаются человеком [12]. Она специально разработана для создания текста, максимально приближенного к естественной человеческой речи, что позволяет применять его для решения задач, связанных с речью, таких как перевод, реферирование и диалоговые системы.
Чат-бот способен формировать ответы на запросы, отвечать на вопросы и даже создавать творческие тексты. Благодаря масштабному обучению на обширном корпусе текстовых данных из интернета ChatGPT формирует тексты впечатляющего уровня качества, сопоставимые с текстами, которые создает человек. Базовая технология, известная как GPT, превосходно обрабатывает последовательные данные, особенно в форме естественного языка, позволяя ChatGPT улавливать нюансы контекста в предложениях и соответствующим образом формировать связный текст [2].
Использование ChatGPT в сфере здравоохранения
Использование инструментов на основе ИИ, таких как ChatGPT, имеет решающее значение для формирования более эффективной системы здравоохранения, ориентированной на пациента [4]. Все указывает на то, что неизбежное распространение технологии LLM, включая широкое внедрение ChatGPT, произведет революцию в медицинской практике, образовании и научных исследованиях [13]. Инструмент искусственного интеллекта участвует в естественном человеческом языковом взаимодействии. Его появление было встречено с большим энтузиазмом и широким признанием [12].
Благодаря способности формировать ответы, близкие к человеческим, на различные запросы ChatGPT является ценным инструментом для здравоохранения. После его внедрения в целом ряде направлений отмечаются глубинные изменения [16]. Рассмотрим подробнее некоторые примеры использования ChatGPT в сфере здравоохранения и выясним, какие преимущества он имеет для пациентов, врачей и исследователей.
1. Ведение медицинской документации: у ChatGPT есть потенциал для оптимизации процесса ведения медицинской документации, включая медицинские карты, клинические записи и автоматически составленные сводки о взаимодействиях с пациентами. Медицинские работники высшего и среднего звена могут надиктовывать ChatGPT свои записи, из которых чат-бот сможет извлечь и обобщить наиболее значимые данные, например симптомы, диагнозы и полученное лечение.
Кроме того, его можно использовать для извлечения важной информации из документации пациентов, например результатов лабораторных исследований и протоколов визуализирующих исследований, повышая тем самым эффективность и точность управления медицинскими данными [16]. Упрощение этого процесса экономит время и минимизирует риск ошибок, возникающих при ручном заполнении документов [2].
2. Мониторинг заболеваний: с помощью ChatGPT медицинские специалисты и обычные граждане могут отслеживать международные данные о состоянии здоровья населения в режиме реального времени. Анализируя обширные данные из разных источников, в том числе новостные сообщения и базы данных систем общественного здравоохранения, ChatGPT может выявлять тенденции и отклонения, свидетельствующие о возникновении и распространении различных заболеваний. На основании этих наблюдений ChatGPT может автоматически уведомлять органы общественного здравоохранения, медицинские организации и широкую общественность, чтобы те могли своевременно принять меры для ограничения распространения заболеваний.
3. Виртуальные помощники для телемедицины: на базе ChatGPT можно создать виртуальных помощников, с помощью которых пациенты будут записываться на прием к врачу, отслеживать план своего лечения и систематизировать информацию о своем здоровье. В условия роста спроса на телемедицинские услуги пациенты могут воспользоваться таким виртуальным помощником на базе ChatGPT для дистанционного получения персонализированных рекомендаций и поддержки в более комфортном режиме.
4. Контроль лекарственной терапии: пациенты часто испытывают трудности с применением нескольких лекарственных препаратов и соблюдением рекомендаций по их дозам. ChatGPT может оказать неоценимую помощь в организации лекарственной терапии у пациентов. Он может напоминать пациентам о приеме лекарств, давать точные рекомендации по подсчету дозы, а также сообщать о возможных побочных эффектах. Кроме того, с помощью ChatGPT можно получить информацию о лекарственных взаимодействиях, противопоказаниях и других важных аспектах, которые необходимо знать пациентам для эффективного соблюдения назначенной им лекарственной терапии.
5. Маршрутизация пациентов: с помощью ChatGPT медицинские работники могут получить у пациентов ответы на вопросы о симптомах и анамнезе, что поможет установить степень тяжести их состояния и степень срочности медицинской помощи.
6. Включение в клинические исследования: процесс включения участников в клинические исследования может быть непростым. ChatGPT может упростить этот процесс: проанализировать данные о пациентах и выявить потенциальных участников, которые соответствуют критериям включения в определенные исследования. С помощью ChatGPT можно повысить результативность набора пациентов для исследований, особенно при формировании неоднородной популяции.
7. Составление медицинской документации: ChatGPT может быть полезен при составлении медицинской документации, например выписок из истории болезни и клинических записей. Предлагая правки и варианты в режиме реального времени, чат-бот оптимизирует процесс оформления медицинских текстов, обеспечивая точное и результативное документирование данных [16].
В научно-исследовательском процессе ChatGPT поможет ускорить процесс подготовки публикаций. Чат-бот может дать ценные рекомендации по организации структуры различных разделов, включая заголовок, аннотацию, введение, описание метода, результатов и обсуждение, что существенно повысит темпы подготовки научных работ и точность представленных в них данных. Исследователям, для которых английский язык не является родным, ChatGPT может помочь в улучшении навыков письменной речи [17].
8. Создание алгоритмов проверки симптомов: ChatGPT можно использовать для создания виртуальных алгоритмов, с помощью которых пациенты могут самостоятельно выявить у себя симптомы и оценить, нужно ли им обращаться за медицинской помощью. Такие алгоритмы могут подсказывать дальнейшие действия, в том числе меры самопомощи до обращения к медицинским специалистам.
9. Информация о лекарственных препаратах: ChatGPT способен предоставить актуальную информацию о лекарственных препаратах, включая сведения об их побочных эффектах, взаимодействиях и противопоказаниях. Пользователи могут взаимодействовать с ChatGPT на обычном языке и своевременно получать точную информацию для принятия обоснованных решений относительно назначенных им препаратов. Медицинские специалисты с помощью ChatGPT могут получать новости о создании новых препаратов, отзывах препаратов с рынка и значимых достижениях в фармацевтической отрасли.
10. Алгоритмы принятия клинических решений: ChatGPT может оказаться полезным инструментом для поставщиков медицинских услуг, поскольку способен предоставить рекомендации о доказательных практиках в режиме реального времени [16]. Хотя конечную ответственность за принимаемые клинические решения несет врач, ChatGPT может дать ему ценные рекомендации о выборе лечения исходя из наблюдаемых у пациента симптомов и анамнеза [2].
Чат-бот может предложить подходящие варианты лечения для определенных заболеваний, предупредить врача о возможных лекарственных взаимодействиях и предоставить клинические рекомендации для сложных медицинских случаев. С такой поддержкой врачи смогут принимать обоснованные решения, которые будут улучшать исходы лечения у пациентов [16].
11. Поддержка психического здоровья: ChatGPT предлагает широкие возможности для защиты психического здоровья, включая диагностику психических заболеваний и поддержку во время психотерапии [15]. С его помощью можно применять элементы поведенческой терапии в виде заданий, включая скрининг психического здоровья, рекомендации по стратегии преодоления трудности и стимулирование подключения к вспомогательным поддерживающим ресурсам для пациентов [16]. Предлагая персонализированные ответы для пациентов в поисках терапии, ChatGPT в некоторых случаях может оказывать необходимую помощь без психотерапевта.
Кроме того, с помощью чат-бота медицинские работники и консультанты потенциально могут поставить более точный диагноз на основании анализа речевых моделей пациента и со временем разработать специальный план лечения.
Используя все потенциальные возможности ChatGPT, мы сможем по-новому взглянуть на механизмы нашего взаимодействия со скрытыми мыслями и через эмпатию найти пути к выздоровлению. Таким образом, ChatGPT представляет собой действенный инструмент улучшения общего благополучия и психического здоровья человека. При правильном использовании ChatGPT может упрощать коммуникацию между людьми, помогать им лучше разбираться в собственных мыслях и эмоциях, а также может обучать их эффективным стратегиям действий в сложных ситуациях [15].
12. Коммуникация с пациентом: ChatGPT можно использовать для формирования автоматических ответов на запросы пациентов, например при записи на прием к врачу или организации приема лекарственных препаратов. Такой подход повышает результативность коммуникации и улучшает общее впечатление пациентов. Следует отметить, что ChatGPT следует использовать только в качестве вспомогательного инструмента в дополнение к медицинской помощи, оказываемой медицинскими специалистами, и он не должен заменять их опыт и клиническое мышление при принятии решений [2].
13. Удаленный мониторинг пациентов (RPM): RPM в последнее время набирает популярность как инструмент улучшения исходов у пациентов и минимизации расходов на здравоохранение. ChatGPT можно применять в дополнение к RPM для анализа данных с носимых устройств, датчиков и других устройств для мониторинга. С его помощью можно в режиме реального времени получать информацию о состоянии здоровья пациента, на основании которой медицинские специалисты смогут оперативно принимать меры в случае ухудшения состояния пациента или выявления неблагоприятных тенденций.
14. Медицинский перевод: ChatGPT может привести к радикальным изменениям в сфере медицинского перевода, предоставляя в режиме реального времени лингвистические услуги для устранения барьера в коммуникации между пациентами и медицинскими работниками. Благодаря усовершенствованным технологиям обработки речи ChatGPT обладает способностью эффективно и быстро переводить как медицинские и технические термины, так и бытовые выражения. Он может помочь пациентам разобраться в их диагнозе, изучить варианты лечения и правильно понять инструкции по применению лекарственных препаратов.
15. Медицинское образование: обязательным условием работы в медицине является постоянное повышение квалификации. ChatGPT может выступить в качестве единого портала, обеспечивающего доступ ко всей необходимой медицинской информации и ресурсам, что упростит организацию непрерывного обучения и повышения квалификации для студентов и дипломированных медицинских работников [16]. Технические достижения, особенно появление моделей на базе ИИ, например ChatGPT, открывают множество ценных возможностей для сферы медицинского образования. Вот лишь некоторые направления, в которых ChatGPT может оказаться востребованным:
(a) Автоматизированная оценка: ChatGPT может проверить работы и эссе студентов, анализируя такие аспекты, как структура предложения, словарный запас, грамматика и четкость изложения мысли. Особенно удобна эта функция для преподавателей, которым приходится оценивать большой объем выполненных заданий.
(b) Организация преподавания: способность ChatGPT составлять упражнения, викторины и сценарии можно использовать для организации классной работы, а также при выполнении практических заданий и их оценке. Использование чат-бота для перевода, разъяснения и обобщения материала открывает возможности для упрощения сложного учебного материала для студентов.
(c) Индивидуальное обучение: на базе ChatGPT можно создать виртуального репетитора и помощника, который может отвечать на запросы студентов и предоставлять обратную связь на их работу. Такой чат-бот сможет разрабатывать индивидуальный план обучения и учебные материалы с учетом особенностей восприятия и способностей конкретного студента.
(d) Помощь в научно-исследовательской деятельности: ChatGPT — ценный помощник при проведении научных исследований, который ответит на вопросы, подготовит реферат публикаций, составил список литературы, подберет литературу для обзора и проанализирует данные. Медицинские исследователи могут применить его способность сокращать исходный текст и извлекать ключевые данные для результативной навигации по большому массиву информации.
(e) Быстрое извлечение информации: ChatGPT дает возможность быстро получить доступ к точной и актуальной медицинской информации по широкому спектру заболеваний, вариантов лечения и вмешательств. Данная функция оказалась востребования у студентов медицинских учебных заведений и дипломированных медицинских специалистов в качестве инструмента для быстрого уточнения информации по определенным вопросам.
(f) Составление клинических задач: с помощью ChatGPT можно смоделировать клинические задачи и ситуации для формирования у студентов навыков диагностики и планирования лечения. Такие материалы можно использовать для развития клинического мышления и подготовки студентов к реальной клинической практике.
(g) Создание материалов для обучения: способность ChatGPT формировать контент можно использовать для подготовки обзоров данных, викторин и дидактических карточек, на основе которых преподаватели могут разрабатывать для учащихся интересные интерактивные материалы.
(h) Перевод: медицинские специалисты и преподаватели могут использовать лингвистические возможности ChatGPT для общения с пациентами с разным уровнем развития речевых навыков с целью оказания им оптимальной медицинской помощи [2].
16. Преобразование сферы цифрового здравоохранения: внедрение ChatGPT открывает возможности для трансформации сферы цифрового здравоохранения и снижения нагрузки на врачей, в том числе для решения проблемы профессионального выгорания. Автоматизируя трудоемкие процессы и высвобождая время для более эффективного взаимодействия с пациентами, ChatGPT повышает комфорт не только врача, но и пациентов. Поскольку внедрение ChatGPT в сфере здравоохранения только открывает эпоху медицины на базе ИИ, необходимо сохранить контроль человека за результатами использования чат-бота.
ИИ уже используется в самых разных сферах, а в будущем возможности для его применения могут стать по-настоящему безграничными. Появление новых разработок в области машинного обучения и обучения на новых базах данных позволит и дальше совершенствовать способность ChatGPT к распознаванию естественного языка и формированию подходящих и осмысленных ответов. Модель должна стать еще более интеллектуальной и способной выполнять еще более широкий спектр разнообразных запросов. ChatGPT имеет глубокий потенциал для развития. Непрерывная эволюция и совершенствование приложения действительно впечатляют. ChatGPT формулирует ответы максимально приближенным к естественной человеческой речи образом, что дополнительно упрощает для пользователей его восприятие [15].
Развитие ИИ: применение ChatGPT на базе USMLE
Системы ИИ потенциально могут существенно улучшить качество медицинской помощи и ее результаты. Таким образом, особенно важно обеспечить клиническое применение ИИ в соответствии с принципами объясняемости и достоверности. Сравнение медицинских знаний ИИ-систем и экспертов-врачей — важный первый этап оценки качества. В этом контексте ChatGPT оценивали с использованием вопросов из экзамена на получение медицинской лицензии США (USMLE) в качестве ориентира.
USMLE — строгая трехэтапная стандартизированная программа комплексного тестирования, предназначенная для оценки уровня квалификации врачей в различных областях, включая биоэтику, медицинский менеджмент, фундаментальные науки и клиническое мышление. Вопросы USMLE имеют единый уровень сложности и разработаны в строгом соответствии со стандартами и регламентами. Стандартный характер этих вопросов делает их оптимальным материалом для тестирования ИИ. Для получения медицинской лицензии в США необходимо пройти три стандартных теста для комплексной оценки знаний на экспертном уровне.
ChatGPT практически преодолел пороговый уровень в 60 % правильных ответов на вопросы USMLE, что обозначило важный этап в развитии технологий ИИ. Следует отметить, что данный результат был достигнут без введения специальных данных в ChatGPT обучающим его экспертом. Кроме того, ChatGPT продемонстрировал свою способность выстраивать понятные логические цепочки и предоставлять достоверные клинические данные, что повышает обоснованность его заключений и доверие к ним.
(1) ChatGPT продемонстрировал умеренную точность ответов и приблизился к пороговому результату тестирования USMLE.
Для оценки точности ответов ChatGPT на этапах 1, 2CK и 3 тестирования ESMLE все ответы ИИ оценивали с помощью системы оценки правильности, согласованности и извлечения знаний (ACI) классифицированы как правильные, неправильные и неопределенные. На рисунке 1 представлены результаты оценки точности ответов ChatGPT в тестировании USMLE, а именно: (A) распределение правильности ответов на введенные открытые вопросы, (B) распределение правильности ответов на вопросы с одним правильным ответом из нескольких вариантов ответа без обоснования (MC-NJ) и с запросом обоснования (MC-J).
(2) ChatGPT продемонстрировал высокий уровень внутренней согласованности ответов
ChatGPT продемонстрировал впечатляющий уровень согласованности ответов и их обоснования, что свидетельствует о высокой внутренней согласованности в рамках вероятной языковой модели. На рисунке 2 высокая внутренняя согласованность ответов ChatGPT представлена визуально, включая (А) общую согласованность по всем видам тестирования и всем форматам вопросов, (B)согласованность правильных и неправильных ответов по всем видам тестирования и всем форматам вопросов. Результаты статистического анализа с использованием точного критерия Фишера свидетельствуют о наличии статистически значимых различий (p < 0,001) между правильными и неправильными ответами.
(3) Обоснование ответов ChatGPT содержало неочевидные тезисы
В целом ChatGPT сформировал как минимум один значимый тезис в 88,9 % всех ответов. Частота встречаемости таких тезисов оставалась сравнительно стабильной независимо от вида тестирования и формата вопросов. Для всех видов тестирования средня плотность значимых тезисов у вопросов с правильным ответом была существенно выше по сравнению с вопросами с неправильными ответами (0,458 и 0,199). На рисунке 3 показано следующее: (A) распространенность общих тезисов, которую определяли как соотношение ответов с не менее чем одним тезисом для всех вопросов формата MC-J во всех видах тестирования, (B) плотность тезисов, классифицированных как правильные и неправильные, для вопросов формата MC-J во всех видах тестов.
Данные исследования свидетельствуют о потенциале использования масштабных языковых моделей, таких как ChatGPT, для упрощения учебных процессов в рамках медицинского образования в качестве ценного актива для последующей интеграции в процесс принятия клинических решений [11].
Расширение границ: углубленный анализ ограничений ChatGPT
Создатели ChatGPT подтверждают, что у модели есть целый ряд ограничений [3]. Один из основных факторов, препятствующих интеграции ChatGPT в здравоохранение, заключается в необходимости введения в чат-бот точных и актуальных данных [15]. В некоторых случаях ChatGPT формирует ответы, которые внешне заслуживают доверия, но по факту оказываются неправильными или бессмысленными. В идеале модель должна уточнять информацию у пользователей, составивших неоднозначные запросы, но в настоящее время она часто полагается на предположения о намерениях пользователя. Несмотря на все усилия по ограничению ответов модели в ответ на недопустимые запросы, по-прежнему фиксируют случаи, когда чат-бот дает опасные инструкции или иным образом отклоняется от установленных требований.
В отличие от поисковых систем типа Google, ChatGPT не ведет активный поиск информации об актуальных событиях в интернете. Знания чат-бота ограничены тем, что он узнал до 2021 года, в результате чего некоторые ответы могут быть устаревшими. Чат-боты проходят процесс обучения с использованием существующих библиотек текстовых данных, что позволяет формировать им ответы на определенные запросы пользователей. Ответ фактически представляет собой подборку данных из обучающих материалов, модифицированных алгоритмами. Поскольку чат-бот не обладает сознанием, его утверждения основаны исключительно на перефразировании или перестановке компонентов существующего контента. Перед ним не стоит задачи создавать оригинальный контент.
Чат-бот имеет доступ к библиотеке текстов, которую использовали при его обучении, что создает риск дословного повторения текста без соответствующей ссылки на первоисточник. В недавно проведенном исследовании с использованием ChatGPT, в первичном тексте, сформированном непосредственно чат-ботом, присутствовало только 6 % правильных ссылок. Следовательно, если ответ чат-бота был бы опубликован в научном журнале, автору и редактору необходимо включить в него правильно и полностью оформленные ссылки в соответствии с требованиями, направленными на предотвращение плагиата. Вызывает беспокойство тот факт, что ChatGPT способен преднамеренно генерировать ложную информацию, фабрикуя факты, хотя он как продукт программирования не может осознавать факт обмана.
Чат-боты не несут юридической ответственности и не имеют статуса юридического лица. Следовательно, чат-бот невозможно привлечь к ответственности или наказать. Условия использования результатов, полученных с помощью программного обеспечения и связанная с этим ответственность изложены в лицензии, предоставляемой компанией-разработчиком программы. Такое лицензионное соглашение аналогично лицензионным соглашениям для других инструментов работы с письменным текстом, включая Word и PowerPoint. Подобно компании Microsoft, которая снимает с себя ответственность за контент, создаваемый с помощью программы Word, разработчик ChatGPT, компания OpenAI, также отказывается от любой ответственности за тексты, сформированные с использованием ее продукта.
Условия пользования содержат положения о возмещении убытков, отказе от ответственности и ограничении ответственности. Таким образом, ответственность за любые ошибки ChatGPT потенциально несут пользователи. Следовательно, наблюдаемая и даже поощряемая практика приписывания авторства текстов ChatGPT не имеет под собой юридических оснований. Хотя ChatGPT может стать ценным инструментом для исследователей, он создает риски включения плагиата или ошибочной информации в публикуемую научную литературу. В ходе рецензирования не всегда можно выявить контент, созданный ChatGPT, поскольку исследователи могут испытывать трудности при разграничении аннотаций, сформированных ChatGPT и подготовленных человека [3].
Следует отметить, что ChatGPT может формировать неправильный или искаженный контент. Тем не менее пользователи всегда могут предоставить обратную связь, нажав кнопку в виде знака неодобрения («палец вниз»), чтобы система на основании такого отзыва обучалась и соответствующим образом корректировала свои ответы. Кроме того, ответы ChatGPT проходят проверку у специалистов, обучающих ИИ, которые последовательно работают над улучшением характеристик системы. Полученные в ходе такого взаимодействия данные хранятся в защищенном месте для защиты конфиденциальности пользователя и по запросу могут быть удалены [18].
Рекомендации Всемирной ассоциации медицинских редакторов (WAME) по использованию ChatGPT и чат-ботов при подготовке научных публикаций
С помощью ChatGPT можно создавать разнообразный контент, от электронных писем до статей и много другого [19]. Расширение практики использования ChatGPT вызвало масштабную дискуссию в научном сообществе об этических последствиях использования ИИ при подготовке научных публикаций, способных повлиять на заключения врачей, исследователей и законодателей [9]. Всемирная ассоциация медицинских редакторов (WAME) выпустила следующие рекомендации относительно использования ChatGPT и чат-ботов при подготовке научных публикаций [7].
- Чат-боты не могут выполнять роль авторов, поскольку не способны осознавать связанные с авторством обязательства. Они не соответствуют критериям авторства, установленным Международным комитетом редакторов медицинских журналов (ICMJE), в частности критериев, связанных с заключительным утверждением публикации и ответственностью за ее правильность и целостность.
- Кроме того, чат-боты не понимают сути заявления о конфликтах интересов и не обладают юридической силой для подписания таких заявлений. Поскольку чат-боты полностью зависят от своих создателей и не имеют независимой принадлежности к каким-либо организациям, они не могут владеть авторскими правами и не могут быть включены в число авторов при представлении рукописи. Авторы обязаны обеспечить соответствие всех лиц, указанных в качестве авторов, установленным критериям авторства, которые однозначно исключают чат-боты из этой категории.
- Авторам рекомендуется соблюдать принцип прозрачности и указывать факт использования чат-бота при подготовке публикации. С учетом быстрого развития отрасли авторам, которые используют чат-ботов при подготовке статьи, обязаны четко обозначать данный факт с подробным описанием технических характеристик используемого чат-бота.
- Необходимо указать название, модель и источник чат-бота, а также описать применяемую в приложении методику (например, структуру и синтаксис запроса). Такая прозрачность согласуется с рекомендацией ICMJE о выражении благодарности за помощь в составлении статьи.
- Авторы несут ответственность за использованный в публикации контент, который был создан чат-ботом, что предполагается проверку правильности данных, отсутствие плагиата, надлежащее оформление всех источников в сформированных чат-ботом материалах. Если автор в процессе написания статьи взаимодействует с чат-ботом, он несет ответственность за сформированные чат-ботом материалы, проверяя их на правильность и уникальность. Автор обязан обеспечить отсутствие любых форм плагиата в своей работе, в том числе в тексте, сформированном чат-ботом.
- Автор обязан гарантировать надлежащее оформление источников всех цитат. Кроме того, он обязан указать, на какой запрос была получена информация от чат-бота. Авторы обязаны найти и надлежащим образом оформить источники утверждений, сделанных чат-ботом. Поскольку чат-боты могут быть настроены таким образом, чтобы исключать источники, содержащие противоположные точки зрения, авторы обязаны самостоятельно найти, изучить и включить в статью такие противоположные мнения.
- Редакторам необходимы эффективные инструменты для выявления контента, сформированного или модифицированного ИИ, и такие инструменты должны быть доступны всем редакторам независимо от их финансовых возможностей. Многие редакторы медицинских журналов продолжают оценивать рукописи методами прошлого столетия, но в текущих условиях им приходится сталкиваться с результатами активного использования ИИ и других технологий, позволяющих изменять текст, применять плагиат, изменять изображения и формировать документы искусственным образом. Отличить подлинный контент от сфабрикованных материалов всегда было непросто, однако с появлением таких чат-ботов, как ChatGPT, эта задача стала еще сложнее.
- Необходимо максимально оперативно предоставить редакторам доступ к инструментам для эффективной и правильной оценки контента. Издательства, работающие в сфере науки, техники и медицины (STM), постоянно работают над созданием таких инструментов. Необходимо, чтобы у редактора всегда был доступ к таким инструментам независимо от его финансовых возможностей, поскольку это напрямую влияет на интересы научного сообщества и общества в целом.
- Благодаря интеграции указанных инструментов в программное обеспечение для общедоступных публикаций, например Open Journal Systems в рамках проекта Public Knowledge Project, и обучению навыкам использования и интерпретации результатов скрининга, многие редакторы обязаны использовать автоматизированные средства скрининга представляемых рукописей [3].
Перспективы дальнейшего развития
ChatGPT постоянно развивается, и компания OpenAI уже выпустила несколько версий GPT с улучшенной скоростью ответа и другими характеристиками [15]. Необходимо в ближайшее время разработать руководство по использованию ChatGPT в научных исследованиях, включая такие важные аспекты, как ответственность, целостность данных, прозрачность и добросовестность. Таким образом, при использовании ChatGPT в научной и медицинской сферах приоритетное внимание следует уделять этическим и юридическим аспектам с учетом всех связанных с этим рисков и факторов. Необходимо провести дополнительные исследования по оценке содержания LLM и их потенциального влияния на развитие науки с особым фокусом на сферу здравоохранения.
Необходимо проводить дополнительные исследования по оценке потенциального влияния ChatGPT на эффективность и качество учебных материалов и инструментов оценки в сфере медицинского образования. В будущем также необходимо оценить возможности для применения ChatGPT для улучшения навыков коммуникации у студентов медицинских учебных заведений и повышения успеваемости с помощью LLM посредством мгновенного предоставления персонализированной обратной связи студентам [13]. По мере развития технологий ИИ будут расширяться сферы применения ChatGPT в здравоохранении.
Например, интеграция ChatGPT в платформы цифрового здравоохранения и роботизированные технологии открывает уникальные возможности для создания инновационных решений RPM, предоставления услуг телемедицины и даже проведения роботизированных хирургических вмешательств. Кроме того, ChatGPT может играть важную роль в создании подкастов на медицинскую тему и сообществ в LinkedIn, предоставляя данные, отвечая на запросы и содействуя сотрудничеству специалистов в рамках отрасли.
Поскольку общество ориентировано на будущее, неизбежно, что в системе здравоохранения будут возникать новые примеры использования технологий и новые разработки. Таким образом, для врачей особенно важно оставаться в курсе последних достижений в этой области и уметь пользоваться инструментами на базе ИИ, включая ChatGPT, для повышения производительности своей работы и улучшения качества предоставляемой пациентам медицинской помощи [4].
Благодаря высокой точности и правильности своих ответов ChatGPT сыграет важную роль в будущем развитии здравоохранения. Хотя текущая версия ChatGPT не предусматривает сравнение ее данных с данными реальной клинической практики, интеграция таких данных ожидается в будущем. ChatGPT будет оптимизировать процессы в разных сферах и повышать их результативность. Например, специалисты по подбору кадров могут автоматизировать этапы поиска и приема на работу сотрудников, сокращая финансовые и временные затраты на этот процесс. Туристы могут использовать ChatGPT для бронирования рейсов, гостиниц и других вариантов проезда, в режиме реального времени получая информацию о погоде, местных событиях и статусе полетов. Уникальная способность этого чат-бота распознавать и формировать тексты, приближенные к человеческой речи, делают его универсальным и ценным инструментом для различных областей здравоохранения. В любой сфере ChatGPT позволяет добиться впечатляющих результатов, будь то поддержка клиентов, создание контента или развлекательная индустрия.
ChatGPT имеет большой потенциал для применения в сфере электронного медицинского образования, от формирования информативных текстов до организации персонализированного обучения. Для полной реализации возможностей, связанных с этими технологиями, образовательные компании должны объединить усилия с поставщиками решений для создания единых обучающих платформ на базе генеративного ИИ и GPT. По мере развития ChatGPT будет способствовать развитию технологий ИИ, расширяя границы глубокого обучения и открывая направления для новых разработок [15].
Главные тезисы
В современном мире ИИ неуклонно осваивает новые сферы, постепенно становясь частью современной реальности [2]. Его используют для обучения компьютерных систем и принятия решений по принципам, сходным с принципами действий человека [3]. ИИ применяется в целом ряде инструментов, и одним из ключевых являются чат-боты [19]. ChatGPT относится к категории чат-ботов и применяется в качестве высокотехнологичной языковой модели, которая использует алгоритмы машинного обучения для воспроизведения взаимодействия между человеком и машиной [15]. Встроенная в архитектуру GPT и обширные базы речевых данных на разных языках, данная модель NLP упрощается взаимодействие с чат-ботом на базе ИИ в режиме реального времени, помогая ему имитировать и формировать текстовые ответы, приближенные к человеческой речи [13,15].
ChatGPT формирует ответы на основе тех данных, которые использовались при его обучении. Он адаптируется к решению таких разных задач, включая обобщение, перевод и создание контента. ChatGPT быстро обрел широкую популярность благодаря своей доступности и уникальным полезным характеристикам [12]. Он обладает потенциалом для коренного преобразования сферы здравоохранения благодаря трансформации принципов оказания медицинской помощи [20]. Создавая тексты, которые напоминают тексты, созданные людьми, он может способствовать улучшению подходов к лечению и более осознанному отношению пациентов к их заболеваниям.
Такие языковые модели на базе ИИ используются в целом ряде приложений, предназначенных для повышения качества обслуживания пациентов и оптимизации процессов оказания медицинской помощи и получения доступа к ценной информации у поставщиков медицинских услуг. Применение таких моделей для организации результативного взаимодействия между медицинскими работниками и пациентами позволяет использовать эффективные решения в сфере здравоохранения в интересах обеих сторон [15]. Этот ценный инструмент помогает врачам в решении различных задач, в том числе сокращает время на диагностику заболеваний и предоставляет данные для принятия обоснованных клинических решений, что в конечном счете приводит к прогрессу практической медицины [20].
ChatGPT предлагает также широкие возможности по работе с текстом, например составление резюме для объемных публикаций или помощь в подготовке чернового проекта презентации, которая впоследствии может быть доработана. Этот инструмент могут использовать исследователи, студенты и преподаватели для поиска новых идей и даже для подготовки аргументированных качественных эссе на определенные темы. Компания OpenAI в настоящее время участвует в разработке усовершенствованной версии чат-бота, которая превзойдет предшествующие версии в отношении функции создания текста. Другие компании также стремятся создать собственные инструменты на базе генеративного ИИ.
Появление ChatGPT и других вспомогательных инструментов привело к тому, что издатели научных журналов вынуждены включать в свою редакционную политику положения об использовании таких технологий. Очень важно, чтобы такая политика включала требования по использованию инструментов для выявления материалов, сформированных ChatGPT [3]. Возможности этого чат-бота очень велики: от составления ответов на запросы, формирования художественных и научных текстов на основе подсказок, до подготовки текстовых резюме и даже формирования компьютерного кода. Такая система способна вспоминать предыдущие фрагменты разговора, что позволяет ей задавать дополнительные вопросы, признавать ошибки, оспаривать неверные предположения и отказываться от неприемлемых запросов.
ChatGPT, как правило, формирует тексты высокого качества, что делает его востребованным инструментом для всех, кому необходимо быстро составить связный и логичный текст. Тем не менее важно помнить о случаях, когда ChatGPT формирует на первый взгляд достоверные ответы, которые оказываются некорректными и бессмысленными. Кроме того, знания системы ограничиваются информацией до 2021 года, поэтому она не знает о текущих событиях. ChatGPT могут использовать исследователи, студенты и преподаватели для поиска новых идей и даже для подготовки аргументированных качественных эссе на определенные темы.
Несмотря на потенциальную ценность ИИ для научных исследований, его применение при подготовке научных публикаций сопряжено с серьезными проблемами и ограничениями, а именно: обеспечение прозрачности, контроль качества, этические аспекты и риск увеличения систематических ошибок, уже присутствующих в данных и алгоритмах. В процессе подготовки таких исследований и публикаций по-прежнему должны участвовать эксперты, которые будут проверять предпосылки, тезисы и результаты. Беспокойство также вызывает вероятность создания чат-ботом ChatGPT поддельной литературы.
Использование ИИ для создания поддельной отчетности о научных исследованиях может привести к обману, фабрикации данных и злонамеренному искажению фактов с целью изменения воздействия на ход научных дискуссий и продвижения личных мотивов. Все это подрывает доверие к научным исследованиям и потенциально может приводить к принятию ошибочных или опасных решений на основании неверных данных. В процессе рецензирования публикаций могут возникнуть трудности при разграничении аннотаций, составленных GPT и экспертом. Настройки ChatGPT могут позволять ему имитировать стиль и формат оригинальных отчетов, что затрудняет выявление текстов, сформированных ИИ.
Таким образом, необходимо тщательно и осторожно подходить к применению ИИ в научной деятельности и помнить о том, что ее основу по-прежнему составляют человеческий опыт и критическое мышление. Компания Google разрабатывает альтернативу ChatGPT — чат-бот на базе ИИ Bard [7]. Таким образом, ChatGPT обозначил качественно новую веху в развитии взаимодействия между человеком и машиной. Последствия этого события только предстоит оценить, и они могут иметь как положительное, так и отрицательное значение.
Без сомнения, эта технология оказывает глубокое влияние на наше будущее. Таким образом, в сложившихся условиях очень важно тщательно оценивать потенциальную пользу и риски, связанные с этой передовой технологией, и следить за ее этичным и ответственным использованием [15]. Приоритетным направлением исследований должна стать разработка подходов, позволяющих эффективно использовать преимущества ChatGPT в сфере здравоохранения и медицины и снизить влияние указанных ограничений [18].
