Сотрудники Канзасского университета в США разработали алгоритм, который почти со стопроцентной вероятностью позволяет отличить научные статьи и прочие публикации, написанные учёными, от материалов, созданных нейросетью. Первые результаты проверки были опубликованы в журнале Cell Reports Physical Science — авторы рассказали, как именно им удалось «вычислить» тексты, написанные ИИ.
После появления массового доступа к ChatGPT школьники и студенты начали активно пользоваться возможностями «нейробота» при выполнении домашних заданий и курсовых работ. В связи с этим учёные задались вопросом: как можно распознать текст, написанный нейросетью?
Для «проверки на робота» был создан сравнительно простой алгоритм, определяющий происхождение материала по 20 характерным признакам. Сначала сотрудники университета обучили ИИ-модель на наборе статей из журнала Science. Затем они дали боту задание по составлению научного текста, и вручную изучили структуру полученного материала, обнаружив несколько интересных закономерностей.
Как выяснилось, люди гораздо чаще используют более сложную структуру абзацев и наречия, чего не делает ИИ. Нейросеть, в свою очередь, активно употребляет слова «исследователи» и «другие», чего обычно не делают сами учёные. Созданный на основе этих данных алгоритм показал эффективность свыше 99% при разборе полных текстов, и около 92% при проверке произвольных абзацев.
По словам учёных, схожим образом можно создать алгоритм для выявления следов ChatGPT и других «нейроботов» в других видах текстов.
