Недавняя статья физика Ника МакГриви (Nick McGreivy) раскрывает неприглядную правду о применении искусственного интеллекта (ИИ) в научных исследованиях. МакГриви, имеющий опыт в машинном обучении, вычислительной науке, физике плазмы, термоядерной энергетике и ядерной политике, поделился своим опытом, который заставил его усомниться в широко разрекламированной способности ИИ "ускорять" и "революционизировать" науку.
Высокие зарплаты и разочарование
В 2018 году МакГриви, будучи аспирантом Принстонского университета, решил переключить своё внимание на машинное обучение, привлечённый перспективой высоких зарплат и возможностью внести значительный вклад в науку. Он сосредоточился на решении уравнений в частных производных (УЧП) с помощью ИИ, области, которую пионер ИИ Ян ЛеКун (Yann LeCun) назвал "действительно горячей темой".
Однако, когда МакГриви попытался применить ИИ-методы к реальным физическим задачам, он столкнулся с разочарованием. Один из популярных подходов, физически информированные нейронные сети (PINN), оказался гораздо менее эффективным, чем ожидалось.
Несмотря на многочисленные статьи, утверждавшие, что ИИ может решать УЧП быстрее стандартных численных методов, МакГриви обнаружил, что эти сравнения часто были несправедливыми. При сопоставлении ИИ с современными численными методами на равных условиях, любые преимущества ИИ практически исчезали.
"Мусорные" результаты DeepMind
Этот опыт заставил МакГриви усомниться в общей ценности ИИ для науки. Он привёл пример DeepMind, которая в 2023 году заявила об обнаружении 2,2 миллиона кристаллических структур, что в десять раз превышает количество известных стабильных материалов.
Однако, когда материаловеды проанализировали эти соединения, они обнаружили, что большинство из них были "мусором" и "не сообщали о каких-либо действительно новых материалах".
Кроме того, МакГриви упомянул исследование компьютерных учёных из Принстонского университета, которые выявили методологические ошибки ("утечки данных") в 648 статьях, охватывающих 30 областей. В каждом случае утечка данных приводила к чрезмерно оптимистичным результатам.
Рост применения ИИ: выгода для учёных, а не для науки?
Несмотря на эти недостатки, применение ИИ в научных исследованиях резко возросло за последнее десятилетие. МакГриви опасается, что этот рост обусловлен скорее выгодой для самих учёных, чем реальной пользой для науки. Он отмечает, что учёные, использующие ИИ, с большей вероятностью публикуют высоко цитируемые статьи и получают в среднем в три раза больше цитирований, чем другие учёные.
МакГриви подозревает, что многие учёные переходят на ИИ из-за более высоких зарплат, лучших перспектив трудоустройства и академического престижа, а не из-за веры в его научный потенциал. Он также отмечает, что научные организации часто больше заинтересованы в потенциале ИИ для привлечения финансирования, чем в самой технологии.
Предвзятость выжившего и другие ловушки
МакГриви подчёркивает, что в ИИ-исследованиях существует предвзятость выжившего: публикуются только успешные результаты, а неудачи замалчиваются. Это приводит к искажённой оценке потенциала ИИ в науке.
Он также выделяет другие ловушки, которые приводят к чрезмерно оптимистичным выводам: утечка данных, слабые базовые методы, выбор благоприятных результатов и неверная отчётность. МакГриви заключает, что к впечатляющим результатам в области AI-for-science следует относиться с осторожностью, как к сенсационным выводам в области питания.
ИИ как обычный инструмент
МакГриви не отрицает, что ИИ может способствовать научным прорывам, но сомневается, что эти прорывы будут такими масштабными и частыми, как ожидается. Он считает, что ИИ, скорее всего, станет обычным инструментом в науке, способствующим постепенному и неравномерному прогрессу, а не революционным преобразованиям.
Источник:
Хотите создать уникальный и успешный продукт? СМС – ваш надежный партнер в мире инноваций! Закажи разработки ИИ-решений, LLM-чат-ботов, моделей генерации изображений и автоматизации бизнес-процессов у профессионалов.
ИИ сегодня — ваше конкурентное преимущество завтра!
Тел. +7 (985) 982-70-55
E-mail sms_systems@inbox.ru