Британские "учёные" написали с помощью бота ChatGPT, 50 кратких аннотаций медицинских исследований на основе подборки статей, опубликованных в пяти авторитетных научных журналах. Затем они сравнили их с оригинальными абстрактами, пропустив через детектор плагиата и детектор вывода искусственного интеллекта, а также попросили группу медицинских исследователей попытаться понять, какие тексты сфабрикованы ИИ-моделью. Специалисты смогли определить только 68% фейковых аннотаций научных статей, созданных ботом ChatGPT. Проверку на плагиат абстракты, созданные ChatGPT, прошли отлично: средний балл оригинальности составил 100%, что указывает на то, что плагиат обнаружен не был. Детектор вывода искусственного интеллекта выявил 66% текстов, сгенерированных языковой моделью. Рецензенты-люди справились не намного лучше: они правильно идентифицировали только 68% абстрактов, сгенерированных ботом, и 86% настоящих кратких содержаний научных работ. 32% сгенерированных ChatGPT абстрактов они неправильно определили как настоящие, а 14% подлинных — как сгенерированные ИИ. Чат-бот на основе модели искусственного интеллекта пишет такие убедительные фейковые аннотации научных статей, что учёные часто не могут их распознать, сообщает Nature. Некоторые исследователи обеспокоены этим, полагая, что научные журналы может захлестнуть волна внешне безупречных публикаций-подделок. Бот ChatGPT создаёт читаемый и разумно выглядящий текст по запросу пользователя. ChatGPT — большая языковая модель, система, основанная на нейронных сетях, которая учится выполнять задачу, обрабатывая в процессе обучения огромные объёмы текстов, написанных людьми. Компания-разработчик программного обеспечения OpenAI, базирующаяся в Сан-Франциско, выпустила этот инструмент 30 ноября 2022 года. Пользоваться им можно свободно и бесплатно. С момента его выпуска исследователи спорят об этических вызовах, связанных с использованием такого рода моделей. В частности, одну из проблем некоторые учёные видят в том, что довольно большую часть результатов работы бота бывает трудно отличить от текста, написанного человеком. И у этого могут быть определённые последствия. Почему это важно? Уровень статей в цитируемых изданиях крайне низкий, многие академики пишут статьи ради статей. Тем временем только одаренный человек способен на озарение, роботу это не доступно. Востребовано применение новых требований и критериев, которые должны быть отражены в цитируемых изданиях, такие как выделение в явном виде "научного озарения", "новизны", "научности" - это путь по которому не сможет пройти робот. Важно пройти развилку и понять, что сокращение здоровой популяции обозначает сокращение количества одаренных людей, которых как нам сообщает наука, всего 3% населения Земли, и в России, это 4 396 341 человек, в США это 9 759 308, а вот в Китае это уже 41 402 490 одаренных человек. источник