Всемирная организация здравоохранения (ВОЗ) призвала к осторожности при использовании чат-ботов на основе нейросетей и других инструментов искусственного интеллекта в сфере общественного здоровья. Как считают представители ВОЗ, внедрение в столь деликатной отрасли, как медицина, непроверенных инструментов может привести к ошибкам медицинских работников и дезинформации пациентов, а также подорвать доверие к передовым технологиям, связанным с нейросетями, в целом, что затруднит их дальнейшее внедрение на последующих этапах.
Согласны с ВОЗ и независимые эксперты – на текущем этапе чат-боты на основе нейросетей не обладают навыками фактчекинга и могут предоставлять внешне обманчиво правдоподобную, но на самом деле недостоверную информацию. Особенную опасность это может представлять при злонамеренном использовании – нейросети могут применяться и для массового создания вредоносного псевдомедицинского контента, следование рекомендациям из которого может нанести прямой вред здоровью. Одна из наиболее важных и сложных задач, стоящих сейчас перед исследователями – обучить чат-боты фактчекингу. Что же касается медицинской сферы – внедрение в нее технологий с использованием нейросетей должно проводиться максимально осторожно, поспешность здесь недопустима.