Научные рефераты, сгенерированные искусственным интеллектом, обманули экспертов

Группа исследователей во главе с Кэтрин Гао из Северо-Западного университета в Чикаго решили проверить, смогут ли эксперты отличить реферат, сгенерированный ИИ от настоящих.

Для этих целей ChatGPT создал 50 рефератов медицинских исследований.

После этого работы были проверены на антиплагиат и «детектор ИИ-вывода». Также рефераты дали ученым, чтобы проверить, смогут ли он распознать подделку.

Сгенерированные ИИ рефераты прошли проверку через систему антиплагиата со средним баллом 100% оригинальности. Примечательно, что ИИ-дектор выявил только 66% сгенерированных рефератов.

У медицинских экспертов результаты оказались немногим лучше. Они смоги выявить 68% сфабрикованных тезисов и 86% подлинных рефератов.

Эксперты посчитали за настоящие 32% сгенерированных реферата, при этом усомнившись в подлинности 14% настоящих тезисов.

Эти результаты заставили научное сообщество волноваться. Отмечается, что если ученые не смогут определить подлинность исследования, это грозит катастрофой.