Нейросети отлично строят логичную структуру работы, но со списком литературы всё сложно — здесь они врут часто и красиво. Исследования показывают, что до 90% ссылок в сгенерированных списках могут быть фейковыми. Давайте разберём, кому можно доверять, а кого стоит перепроверять под микроскопом. Всё дело в том, как работают большие языковые модели. Они не «знают» факты — они предсказывают следующее слово, основываясь на вероятности. Когда вы просите ChatGPT: «Дай список литературы по теме X», модель не идёт в библиотеку. Она конструирует ссылку из вероятных элементов: реальный автор + реальный журнал + правдоподобное название + похожий год. Получается идеальная фальшивка, которую почти невозможно отличить от настоящей без проверки. Исследователи из МГУ подтверждают: частота таких «галлюцинаций» в библиотечных задачах может достигать 95%, но правильная настройка запросов (промптов) позволяет снизить этот показатель [1]. ❌ Плохой запрос: «Напиши список литературы диплома по экономике» ✅ Х
Почему нейросети так ужасно врут в списках литературы
17 июня17 июн
1
1 мин