Найти в Дзене

Ловим нейросеть за руку: почему фейковые списки литературы - зло

Вспомните барона Мюнхгаузена — того самого, который блестяще рассказывал о том, как он вытаскивал себя из болота за волосы и летал на ядре. Слушать его было одно удовольствие, даже когда было ясно, что он врёт фантазирует. Примерно так же работает нейросеть, когда вы просите её составить вам список литературы для курсового проекта, выпускной квалификационной работы или научной статьи. Она мастерски сочиняет солидные названия статей, авторитетные фамилии учёных и правдоподобные выходные данные. Получается идеальный на первый взгляд список, сфабрикованный из воздуха. И если барон вредил лишь собственной репутации (хотя и прославился этим на века), то здесь последствия куда серьёзнее. Любой читатель вашей работы, начиная с научрука, вправе спросить: «А покажите-ка мне эту самую статью, где профессор Иванов пишет о полёте на ядре?». Пишу это, а в памяти всплывает кадр из мультфильма "Приключения капитана Врунгеля", где шеф говорит подчиненным: "А ну-ка покажите товар" Главный лайфхак
Оглавление

Творчество нейросети Кандинский 5
Творчество нейросети Кандинский 5

Вспомните барона Мюнхгаузена — того самого, который блестяще рассказывал о том, как он вытаскивал себя из болота за волосы и летал на ядре. Слушать его было одно удовольствие, даже когда было ясно, что он врёт фантазирует. Примерно так же работает нейросеть, когда вы просите её составить вам список литературы для курсового проекта, выпускной квалификационной работы или научной статьи.

Она мастерски сочиняет солидные названия статей, авторитетные фамилии учёных и правдоподобные выходные данные. Получается идеальный на первый взгляд список, сфабрикованный из воздуха. И если барон вредил лишь собственной репутации (хотя и прославился этим на века), то здесь последствия куда серьёзнее.

Любой читатель вашей работы, начиная с научрука, вправе спросить: «А покажите-ка мне эту самую статью, где профессор Иванов пишет о полёте на ядре?». Пишу это, а в памяти всплывает кадр из мультфильма "Приключения капитана Врунгеля", где шеф говорит подчиненным: "А ну-ка покажите товар"

Кадр из мультфильма "Приключения капитана Врунгеля"
Кадр из мультфильма "Приключения капитана Врунгеля"

Главный лайфхак при выявлении фантазий нейронки, кстати, и заключается в подозрительной частоте использования знаменитых русских фамилий. Если в одном списке друг за другом следуют статьи и книги за авторством Иванова-петрова-Сидорова-Смирнова, значит точно нейросеть постаралась. Ну а если Иванов и Петров еще и соавторы одной статьи - 99% это так.

Впрочем, это можно и проверить. Как?

Еще один очевидный способ выявления фантазий нейронки - проверка каждого источника в Яндексе. Ну или в гугле, если вы против отечественного программного продукта.

Да, ручная проверка это тоскливое занятие. Научруки и редакторы научных изданий точно не будут этим заниматься, у них есть другой инструмент. О нем чуть позже.

- Ну ладно, нейросеть пофантазировала. А что тут такого? - спросите вы.

Ещё раз и медленно:

Нейросеть не научная библиотека и даже не Википедия, она генерирует тексты, а не собирает факты, сочиняет, а не выдает реальные источники. Даже если вы используете модуль, подключенный к Интернету.

И ладно бы она просто врала, придумывая авторов, статьи, журналы. В свои фальшивые цитаты нейросеть вплетает имена реальных исследователей. Против их воли. Как будто они писали то, чего никогда не писали.

А потом ваша статья, если речь идет о научной статье, попадает в Российский индекс научного цитирования (РИНЦ), или как минимум в базу данных Научной электронной библиотеки. Эти базы используются вузами для наукометрических подсчетов - что и сколько написали ученые и преподаватели вуза за отчетный период. Потом авторам за это начисляются баллы рейтингов, по которым определяется зарплата и разные бонусы. И вдруг выясняется, что автор такого не писал. Как это отразится на его зарплате? Вы портите им репутацию, вредите самой идее науки, которая строится на доверии к источникам.

Ну и научрук вашей курсовой или выпускной квалификационной работы наверняка разозлится. И члены Государственной аттестационной комиссии вряд ли после такого обмана захотят вам поставить "хорошо", даже если сама работа неплоха. Вам оно надо?

Короче, в составлении списков литературы нейронкам верить нельзя, подлог быстро вычисляется опытным научруком, рецензентом или редактором научного издания.

А вот этой нейронке от Научной электронной библиотеки верить можно. Она возьмет сочиненный другими нейронками и живыми студентами список литературы и проверит, какие ссылки вполне реальные, а какие выдуманы.

Так что же делать?

Искать реальные ссылки. Есть два замечательных сайта - Научной электронной библиотеки (НЭБ) и Киберленинки. В НЭБ авторизоваться придется. Да, это бесплатно. Киберленинка и без авторизации с вами пообщается. Ручками запрос набираем, нужные фильтры включаем, и вот результат подбора литературы по вашей теме. Все ссылки существуют. Научрук, члены ГАК, редактор научного журнала довольны. Правда, здорово?

Полезные советы от академического наставника можно почитать здесь:
Rutube https://rutube.ru/channel/1627362/
ВК
https://vk.com/public156019613
ТГ
https://t.me/HRtheory
Дзен
https://dzen.ru/acadme
Мах
https://max.ru/id645400262315_biz
ЖЖ
https://fursov.livejournal.com/ (авторизация возможна через VK)