ВОЗ призвала к осторожному использованию ИИ в области здравоохранения

Всемирная организация здравоохранения (ВОЗ) опубликовала на своем сайте заявление, в котором призывает к осторожному использованию инструментов больших языковых моделей (LLM), созданных ИИ, в области здравоохранения. Это необходимо для защиты благополучия, безопасности, самостоятельности людей и общественного здоровья, считают в организации.

В ВОЗ отмечают, что стремительное распространение таких платформ, как ChatGPT, Bard и Bert, вызвало ажиотаж касательно потенциала нейросетей в области медицины. Речь идет, в частности, о расширении доступа к медицинской информации, увеличении диагностического потенциала и др.

«Хотя ВОЗ с энтузиазмом относится к надлежащему использованию технологий, включая LLM, для поддержки медработников, пациентов и исследователей, существует обеспокоенность по поводу того, что осторожность, которая обычно проявлялась бы в отношении любой новой технологии, не соблюдается последовательно в отношении LLM», – говорится в заявлении.

Поспешное внедрение непроверенных систем может привести к медицинским ошибкам, причинению вреда пациентам и подрыву доверия к ИИ, отметили в ВОЗ.

После того как OpenAI представила ChatGPT на базе новой языковой модели GPT-4, более тысячи лидеров в сфере IT-технологий подписали открытое письмо и призвали ввести мораторий на разработку ИИ-систем в течение полугода. Среди подписавших письмо были основатель OpenAI, Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк и другие предприниматели.

В начале марта стало известно, что «крестный отец ИИ» Джеффри Хинтон ушел из Google из-за этических проблем с нейросетями. По его собственным словам, он сделал это для того, чтобы предупреждать общество о рисках, связанных с использованием ИИ.

6 мая сообщалось, что китайская технологическая копания IFlytek планирует создать конкурента ChatGPT. До этого, 7 апреля, Alibaba Group представила модель генеративного искусственного интеллекта (ИИ) Tongyi Qianwen, которая будет использоваться для корпоративной связи, электронной коммерции, поиска в интернете, прокладки маршрутов транспорта, развлечений и в качестве интеллектуального голосового помощника. В марте Baidu представила чат-бот с ИИ Ernie Bot, который выполняет математические задачи, создает видео и изображения.