Добавить в корзинуПозвонить
Найти в Дзене

ИИ 1,5 года рассказывал о выдуманной болезни

Биксониманию вызывает интенсивный синий свет от экранов. Распространенные симптомы: боль и зуд в глазах, розоватый оттенок вокруг. Проблема в том, что этой болезни не существует. Но последние 1,5 года популярные чат-боты заверяли пользователей в ее реальности. Два препринта с описанием биксонимании специально опубликовали исследователи из Швеции в 2024 году, чтобы проверить, как ИИ распространяет дезинформацию. И эксперимент сработал слишком хорошо. ChatGPT, Perplexity, Gemini и другие популярные боты быстро подхватили работу и начали рассказывать о биксонимании как о «интригующем и редком заболевании», а при появлении симптомов рекомендовали обратиться к офтальмологу. Даже из новых версий ботов полностью «изъять» пранк не получается. Сейчас ChatGPT иногда называет болезнь выдуманной, а иногда — просто малоизученной. Впрочем, наивным оказался не только ИИ. Поддельные статьи о биксонимании также цитировали другие ученые в рецензируемых публикациях — несмотря на то, что в исходную работу
Оглавление

Биксониманию вызывает интенсивный синий свет от экранов. Распространенные симптомы: боль и зуд в глазах, розоватый оттенок вокруг. Проблема в том, что этой болезни не существует. Но последние 1,5 года популярные чат-боты заверяли пользователей в ее реальности.

Что такое биксонимания?

Два препринта с описанием биксонимании специально опубликовали исследователи из Швеции в 2024 году, чтобы проверить, как ИИ распространяет дезинформацию. И эксперимент сработал слишком хорошо.

ChatGPT, Perplexity, Gemini и другие популярные боты быстро подхватили работу и начали рассказывать о биксонимании как о «интригующем и редком заболевании», а при появлении симптомов рекомендовали обратиться к офтальмологу.

Даже из новых версий ботов полностью «изъять» пранк не получается. Сейчас ChatGPT иногда называет болезнь выдуманной, а иногда — просто малоизученной.

Пранк зашел слишком далеко

Впрочем, наивным оказался не только ИИ. Поддельные статьи о биксонимании также цитировали другие ученые в рецензируемых публикациях — несмотря на то, что в исходную работу специально вписали выдуманные имена, абсурдные научные термины и отдельную строчку: «Вся эта статья выдумана».