Когда люди впервые начали массово использовать искусственный интеллект для работы с текстами, ожидания были почти идеалистическими. Казалось, что появится инструмент, который поможет быстрее искать информацию, проверять данные и избавит от обычных человеческих ошибок.
Но постепенно выясняется странная вещь: ИИ умеет не только находить сведения, но и очень убедительно придумывать их.
Новое исследование, опубликованное на сервере препринтов arXiv, показало, что в научной литературе всё чаще встречаются ссылки на работы, которых никогда не существовало. По оценкам авторов, только за 2025 год в публикациях могло появиться около 146 тысяч подобных «галлюцинированных» цитат.
Речь идёт не о банальных опечатках или неверно оформленных источниках. Искусственный интеллект способен создать практически полноценную фикцию: придумать название научной статьи, фамилии авторов, журнал публикации и даже DOI — уникальный идентификатор исследования.
Причём выглядит всё настолько правдоподобно, что обнаружить ошибку бывает сложно даже специалистам.
Исследователи изучили около 111 миллионов ссылок из 2,5 миллиона научных работ, размещённых в крупных научных базах, включая PubMed Central, bioRxiv и SSRN. Они заметили, что число подозрительных ссылок резко выросло после распространения языковых моделей вроде ChatGPT. Особенно заметным рост стал с середины 2024 года.
Проблема оказалась глубже, чем кажется.
Наука держится на возможности проверить информацию. Любой вывод должен опираться на источник, который можно открыть, изучить и перепроверить. Когда появляются несуществующие исследования, ломается сама цепочка доверия.
И есть ещё один неприятный момент.
Фальшивые ссылки способны «жить» дальше. Один автор использовал выдуманный источник. Второй сослался уже на его работу. Третий включил оба исследования в обзор. Со временем ошибочная информация начинает восприниматься как реальная.
Особое беспокойство вызывает медицина. Отдельная проверка, проведённая учёными из Колумбийского университета, выявила почти 3000 медицинских публикаций с несуществующими ссылками. Некоторые материалы уже используются в обзорах и рекомендациях для врачей.
Если подобные ошибки попадут в клинические решения, последствия могут затронуть не только научные журналы, но и обычных пациентов.
Авторы исследования подчёркивают: чаще всего фиктивные ссылки встречаются у небольших исследовательских групп и молодых учёных, активно использующих ИИ при подготовке материалов. Вероятно, дело не всегда в попытке обмана. Иногда причина гораздо прозаичнее — желание ускорить работу, закрыть дедлайн или подготовить публикацию быстрее конкурентов.
Любопытно, как меняется отношение людей к информации. Если раньше недоверие вызывали анонимные сайты и сомнительные источники, то теперь подозрения постепенно перемещаются туда, где традиционно существовал высокий уровень доверия — в научные публикации.
На этом фоне платформы начинают ужесточать правила. Например, arXiv уже предупредил: авторы, публикующие работы с очевидными ИИ-галлюцинациями и вымышленными ссылками, могут получить годичный запрет на размещение материалов.
Похоже, наука столкнулась с новым вызовом. Раньше задача состояла в том, чтобы отделять правду от ошибок. Теперь появляется дополнительный уровень проверки: сначала убедиться, что источник вообще существует.
Ирония ситуации почти символична. Хотели создать систему, которая будет работать исключительно с фактами. А получили очень уверенного фантазёра — с хорошей памятью на научные термины и убедительным стилем изложения.