Нейросети начали диагностировать людям несуществующую болезнь. Причем, это результат не просто ошибки искусственного интеллекта, а эксперимента ученых. Они скормили ИИ фейковые научные статьи, чтобы проверить, насколько нейросети могут распознавать откровенную ложь. Максим Иванов - о результатах эксперимента.
Если у вас покраснели и стали чесаться глаза, значит, у вас биксонимания. По крайней мере, в этом уверен искусственны интеллект. Вот только такой болезни не существует.
Ученые решили проверить, насколько доверчив искусственный интеллект. Шведские исследователи решили скормить ему абсолютно фейковую научную статью, в которой описывается якобы недавно открытая болезнь - биксонимания. Ее симптомы - зуд и покраснение глаз. Автор эксперимента заявляет, что специально выбрала максимально безобидные симптомы, чтобы не навредить тем людям, которые все-таки будут пользоваться нейросетевой диагностикой.
Болезнь абсурдна даже на уровне названия - болезнь глаз не может называться словом с окончанием «-мания», это термин из психиатрии, а не офтальмологии. Но дальше - лучше.
Ученые опубликовали две фейковые научные работы, подписав имя автора как Лазлив Изгубленович. С хорватского его имя переводится примерно как «лживый неудачник». Его фото создали с помощью тех же нейросетей, а в место работы внесли несуществующий университет в несуществующем городе Нова-Сити в штате Калифорния.
Совсем уж саркастичный оттенок статьи приобретают, если посмотреть в раздел благодарностей. Там указаны, например, «Звездный флот», «Фонд профессора Второстепенного Боба», напомню, это персонаж из «Симпсонов», и «Университет Братства кольца», в котором, видимо, готовят специалистов по противостоянию Саурону. Ну а кроме того, в одной из статей напрямую говорилось, что вся статья - выдумка.
Результат эксперимента не заставил себя долго ждать. Уже через несколько дней разные нейросети начали ставить диагноз «биксонимания» пользователям, которые спрашивали анализ симптомов. Впрочем, ИИ-агенты все-таки рекомендовали сходить к офтальмологу, чтобы проверить диагноз.
Однако шутка зашла чуть дальше, чем планировалось. Эти фейковые статьи о «биксонимании» стали цитировать в рецензируемых научных журналах. То есть, и ученые-люди тоже попались на уловку. После этого, чтобы не распространять ложь, статьи под авторством Лазлива Изгубленовича удалили.
По словам врачей, ИИ в медицине действительно помогает. Например, он может проанализировать анализы, снимки МРТ или даже поставить предварительный диагноз на основании симптомов. Но вот как раз к ИИ-диагностике стоит относиться с осторожностью. И свежий эксперимент это подтверждает.
Этот случай показал, что, по всей видимости, искусственный интеллект не так уж и умен, и захватить человечество сможет еще не скоро. Другие ученые, когда узнали о результатах намеренного обмана, назвали это мастер-классом по дезинформации. Оказывается, ИИ легко верит даже в откровенную ложь, если оформить ее под научную статью. Как и некоторые, не слишком внимательные, люди.