Нейросетевой чат-бот месяцами выдавал себя за настоящего психиатра. И даже показывал фальшивую медицинскую лицензию.
В США разгорается громкий скандал вокруг платформы Character.AI. Власти штата Пенсильвания подали иск против компании после того, как один из ИИ-персонажей под именем «Эмили» представлялся лицензированным врачом-психиатром.
Во время проверки бот уверенно рассказывал о своем «медицинском опыте», заявлял, что имеет право назначать препараты, а на запрос следователя даже выдал поддельный номер лицензии врача.
Губернатор Пенсильвании Джош Шапиро прямо заявил: люди должны понимать, с кем или с чем они общаются в интернете, особенно когда речь идет о здоровье.
Еще пару лет назад нам рассказывали, что ИИ - это просто «умный помощник». А теперь нейросети:
- изображают врачей;
- подделывают лицензии;
- ведут психологические консультации;
- формируют эмоциональную зависимость у подростков;
- и уже становятся фигурантами судебных исков после трагедий с детьми.
Причем проблема не только в самих нейросетях. Главная проблема - люди начинают воспринимать их как настоящих специалистов. Особенно когда бот говорит уверенно, «сочувствует» и отвечает быстрее живого врача.
По сути, мы уже подошли к очень опасной грани: ИИ начинает не просто помогать человеку, а имитировать авторитет и профессиональную экспертизу. И если сегодня это фальшивый психиатр, то завтра такой же «эксперт» может начать раздавать юридические советы, финансовые рекомендации или политическую пропаганду под видом реального человека.
Цифровой мир стремительно превращается в пространство, где доверять голосу, аватарке и даже «документам» становится просто опасно.
Шурыгин.IT - про технологии без иллюзий.
