В 2024 году исследовательница Гетеборгского университета Альмира Османович Тунстрем провела эксперимент: создала несуществующее заболевание «биксономания» (выдумала его симптомы и причину — синий свет), загрузила фальшивые статьи в научные базы. ИИ-системы начали цитировать его как реальное. Google Gemini и Microsoft Bing упоминали «биксономанию» как редкое заболевание от синего света. ChatGPT отвечал пользователям, учитывая «биксономанию» как настоящую болезнь. Поддельные статьи процитировали в научных журналах. Исследование в Cureus ссылалось на фальшивые работы. В результате статью отозвали, но это подчеркивает, как легко ложные данные могут попасть в научную среду. ©️
Ученые придумали болезнь, а ИИ начал лечить людей от нее: эксперимент
В 2024 году исследовательница Гетеборгского университета Альмира Османович Тунстрем провела эксперимент: создала несуществующее заболевание «биксономания» (выдумала его симптомы и причину — синий свет), загрузила фальшивые статьи в научные базы. ИИ-системы начали цитировать его как реальное.
Google Gemini и Microsoft Bing упоминали «биксономанию» как редкое заболевание от синего света. ChatGPT отвечал пользователям, учитывая «биксономанию» как настоящую болезнь. Поддельные статьи процитировали в научных журналах. Исследование в Cureus ссылалось на фальшивые работы. В результате статью отозвали, но это подчеркивает, как легко ложные данные могут попасть в научную среду.
©️
