Как пишет The Verge, корпорация Google приступила к очередной фазе тестирования своего медицинского чат-бота на основе нейросетей, базирующегося на языковой модели Med-Palm 2. Он уже применяется в больнице Mayo Clinic, хотя, конечно, под строгим контролем врачей и технических специалистов. Языковая модель Palm используется и для чат-бота Google Bard. Как несложно понять, исходя из названия, Med-Palm 2 является его особой версией, специализирующейся на врачебной тематике.
По мнению команды Google, в будущем применение автоматизированных сервисов на основе нейросетей будет полезно в странах с ограниченным доступом к медицине, хотя в настоящий момент подобные модели далеки от идеала и страдают от множества проблем, присущих основанным на нейросетях проектам. Med-Palm 2 может допускать неточности и ошибки, и даже выдавать информацию, которая способна нанести вред здоровью. Разумеется, на текущем этапе чат-бот не может заменить докторов, поэтому его тестирование и использование тщательно контролируется, чтобы не навредить пациентам. Как прогнозируют некоторые эксперты и футурологи, возможно, в некоторых сферах чат-боты на основе нейросетей смогут заменить сотрудников-людей уже через несколько лет – по крайней мере, если сохранятся текущие стремительные темпы их развития. При этом одной из главных проблем нейросетей в настоящий момент является фактчекинг – они не способны отличить правду от вымысла. Впрочем, на это способны и не все люди, что показывают многочисленные примеры успешной пропаганды.