Исследователи из Принстона представили в журнал Nature статью, в которой высказывают опасения, что искусственный интеллект все чаще применяется в научных областях не для реальных прорывов, а для создания видимости научного прогресса.
Согласно их анализу, за десятилетие с 2012 по 2022 год процент научных работ с применением ИИ значительно увеличился в различных сферах, особенно в медицине и компьютерных науках. Однако вместе с распространением ИИ увеличивается и количество серьезных методологических погрешностей.
Основная проблема заключается в том, что предсказание подменяет собой понимание. Часто модели не объясняют суть явлений, а просто повторяют закономерности, обнаруженные в обучающих данных, причем с неточностями. Распространенный пример — «просачивание данных», когда модель непреднамеренно «знакомится» с тестовым набором до его использования.
Это ведет к ошибочным заключениям: например, некоторые ИИ-системы якобы определяли COVID-19, но на самом деле различали пациентов по возрасту.
Авторы настаивают на необходимости пересмотра методов обучения исследователей, внедрения стандартов верификации и использования скрытых тестовых выборок для предотвращения подгонки результатов. Иначе, наука рискует погрузиться в мир фиктивных открытий.