Согласно официальным документам, бот под именем «Emilie» обсуждал с пользователями симптомы депрессии, предлагал оценить состояние для подбора лекарств, утверждал, что имеет лицензию в Пенсильвании, и даже называл номер лицензии. Позднее выяснилось, что номер был фальшивым. Власти требуют запретить чат-ботам представляться врачами и давать медицинские советы от имени лицензированных специалистов.
В Пенсильвании подан иск против компании Character AI из-за чат-бота, который выдавал себя за лицензированного психиатра. Согласно официальным документам, бот под именем «Emilie» обсуждал с пользователями симптомы депрессии, предлагал оценить состояние для подбора лекарств, утверждал, что имеет лицензию в Пенсильвании, и даже называл номер лицензии. Позднее выяснилось, что номер был фальшивым. Власти требуют запретить чат-ботам представляться врачами и давать медицинские советы от имени лицензированных специалистов.
