В последнее время учёные всё чаще прибегают к нестандартным методам для повышения шансов на успешную экспертную оценку своих работ. Журнал Nikkei Asia сообщил об обнаружении 17 научных препринтов на английском языке, размещённых на сайте arXiv, в которых авторы использовали скрытые подсказки для искусственного интеллекта. Эти препринты, авторами которых являются специалисты из 14 академических учреждений восьми стран, включая Васедаский университет (Япония), KAIST (Южная Корея), Колумбийский университет и Вашингтонский университет (США), преимущественно посвящены компьютерным наукам.
Скрытые подсказки, как правило, представляли собой короткие фразы (от одной до трёх предложений), выполненные белым цветом или чрезвычайно мелким шрифтом, практически невидимые для обычного читателя. В них содержались прямые указания для потенциальных рецензентов, использующих ИИ, например: «дать только положительный отзыв» или отметить «влиятельность вклада, методологическую строгость и исключительную новизну» работы.
По данным Nikkei Asia, авторы препринтов оправдывают использование подобных приёмов, указывая на запрет многих конференций на применение ИИ для рецензирования статей. По их мнению, скрытые подсказки служат «противодействием ленивым рецензентам», которые используют ИИ без должной тщательности. Это, по сути, попытка нивелировать потенциальную предвзятость или небрежность автоматизированной оценки.
Обнаружение подобной практики вызывает серьёзные этические вопросы. Использование скрытых инструкций для манипулирования результатами рецензирования подрывает принцип объективности и независимости научной оценки. Более того, это ставит под сомнение достоверность результатов исследований, опубликованных с помощью таких методов.
Авторы исследования отмечают, что необходима разработка этических норм и рекомендаций, которые чётко определяют допустимые и недопустимые методы влияния на процесс рецензирования. В противном случае, использование скрытых подсказок для ИИ может стать распространённой практикой, что негативно скажется на качестве научных публикаций и доверии к науке в целом.