Найти в Дзене
Наука

ИИ в науке: вызов для академической этики

В 2024 году применение искусственного интеллекта и нейросетей в науке стало массовым и разносторонним, а в 2025 — наверняка будут новые возможности. Специалисты из разных областей — от физики и медицины до лингвистики и геоинформатики — активно используют GPT-подобные системы и машинное обучение для анализа данных и создания текстов. Однако столь впечатляющее развитие ИИ вызывает новые вопросы об этике, авторских правах и прозрачности академических публикаций. Одни эксперты, с которым поговорил канал «Наука», видят в нейросетях огромный потенциал ускорения исследований, другие опасаются развития «ИИ-плагиата» и вытеснения человека из определенных отраслей. В итоге научное сообщество все громче говорит о необходимости четких правил и локальных актов, которые определят, где заканчивается помощь ИИ и начинается нарушение академических норм.

-2

Алексей Белянин старший научный сотрудник Международной лаборатории экспериментальной и поведенческой экономики ВШЭ

Нейросети стали неизбежным элементом современной жизни, вплоть до того что люди, владеющие ими (поколение Z) уже выше ценятся в отдельных сегментах рынка труда, чем гораздо более опытные специалисты с многолетним стажем.

Это неизбежно, и мне не представляется нереальной ситуация, когда профессия программиста в массе отомрет за ненадобностью.

Другое дело, что пока это не произошло, остается проблема авторства, прав на интеллектуальную собственность, плагиат с использованием ИИ и др.

В нашей области, к примеру, считается нормальным использовать ИИ для написания программы, поскольку это вспомогательный продукт, но нормально ли это для компьютерных наук — уже вопрос. Большинство научных журналов разрешает использование ИИ для улучшения грамматики англоязычного текста, однако так ли велика дистанция от такого использования до генерации текста на английском языке под видом оригинального авторского?

-3

Дмитрий Вибе доктор физико-математических наук, заведующий отделом физики и эволюции звезд Института астрономии РАН

Есть два направления использования ИИ в научной работе: в качестве инструмента научного анализа и в качестве инструмента для генерации текста и иллюстративных материалов.

В первом случае это вполне многообещающее и ценное направление. Во втором случае — отрицательный фактор. Коллеги рассказывали, что в системах подготовки заявок на наблюдения задают теперь вопросы о том, использовался ли ИИ при подготовке заявки и не возражает ли автор, чтобы ИИ использовался при ее анализе. То есть, один ИИ будет составлять заявку, другой — ее анализировать, а собственно астроном-человек будет в это время лениво потягивать через трубочку безалкогольный коктейль на террасе своего дома.

-4

Марат Гафуров директор института физики КФУ, профессор кафедры медицинской физики, доктор физико-математических наук

Пока применение ИИ ограничивается лично у меня составлением красивых презентаций, красивых картинок, в том числе для графических абстрактов для научных публикаций, полированием английского языка для статей. Пытался написать введение к одной из научных статей с просьбой дать литературные источники. Все литературные источники оказались вымышленными, хотя авторы и журналы были реальны.

Но времена меняются, думаю в 2025 году ИИ и ссылки будет давать правильные, и проводить более глубокий анализ научной литературы по физике, химии и материаловедению.

-5

Эдуард Девятов доктор физико-математических наук, ведущий научный сотрудник Института физики твердого тела, доцент МФТИ

На мой взгляд, нейросети и наука просто несовместимы.

Нейросеть предполагает процесс обучения — то есть повышение вероятности выбрать правильный ответ из известных. Например, самое прямое приложение — распознавание образов, возможность отличить на фото кошку от собаки. Для науки важно создать новое — нейросеть тут бесполезна.

Количество мусорных статей и скрытого плагиата возрастет — тут нейросеть вне конкуренции. Как оцениваю? — Да как квантовые вычисления. Они уже изменили наш мир? Вот и нейросети не изменят.

-6

Денис Деркач директор по прикладным исследованиям и разработкам Института искусственного интеллекта и цифровых наук Факультета компьютерных наук НИУ ВШЭ

Самое большое событие — публикация GPT-о, которая все ближе приближает нас к революции в некоторых человеческих профессиях, включая достаточно сложные — программист, юрист. Научные применения GPT-подобных систем пока не так близки (кроме написания отчетов), но уверен, что через некоторое время они будут выполнять некоторые рутинные операции.

Скорее всего, скоро выйдет первое лекарство, сконструированное ИИ. Но в целом я бы сказал так: очень многим наукам еще предстоит трансформироваться в готовые к ИИ. Это очень важно особенно для «мокрых», то есть занимающихся непосредственно экспериментами, лабораторий.

-7

Роман Душкин Руководитель образовательной программы «Искусственный интеллект и моделирование когнитивных процессов в проектировании и разработке информационных систем» НИЯУ МИФИ

На мой взгляд, наиболее значимым событием в 2024 году стало создание новой архитектуры модели GPT-o1 компанией OpenAI. Основная ее инновация заключается в том, что теперь модель состоит не из одного эксперта, а из нескольких, которые участвуют во внутреннем диалоге, обсуждая запрос и формируя согласованный итоговый ответ. Такой подход позволяет получать более качественные ответы и снижает количество «галлюцинаций» — ситуаций, когда модель выдает недостоверную информацию.

-8

Физики активно используют глубокие нейросети для ускорения вычислений и моделирования. Многие задачи, которые раньше решались методами численного моделирования, теперь рассчитываются с помощью нейросетей. То, что ранее занимало месяц, теперь можно выполнить за час. Это означает, что в ближайшем будущем можно ожидать новых научных результатов в физике и химии.

Заметные изменения происходят и в квантовой химии. Здесь с помощью нейросетей рассчитываются свойства молекул на основе уравнений Шредингера — это сложная задача для численного моделирования, но за последние три года был достигнут значительный прогресс. В кристаллографии также наблюдается успех в моделировании свойств молекул и кристаллов, что открывает новые возможности для исследований.

-9

Андрей Кибрик доктор филологических наук, ведущий научный сотрудник Института языкознания РАН, профессор филологического факультета МГУ

Я проводил исследования с использованием нейросетей, начиная с 2001 года. У меня были в то время публикации по применению нейросетей для описания референциального выбора в дискурсе. В настоящее время вместе с коллегами мы изучаем возможности применения нейросетей для автоматической аннотации мультиканального дискурса. (Обычная человеческая коммуникация является мультиканальным процессом: люди общаются между собой, используя слова, интонацию, жесты, мимику, движения глаз. Все эти коммуникативные каналы используются одновременно и в связке.)

-10

Анатолий Соловьев доктор физико-математических наук, геофизик, специалист в области геоинформатики, директор Геофизического центра РАН, профессор РАН, член-корреспондент РАН по Отделению наук о Земле

Нейросети эффективно используются в качестве инструмента анализа геолого-геофизических данных. В частности, с использованием машинных методов обучения в Геофизическом центре РАН построена нейросетевая модель для оценки величины геомагнитно-индуцированных токов, возникающих при повышенной геомагнитной активности. Последние являются наиболее опасным проявлением космической погоды для энергетической и транспортной инфраструктуры в арктической зоне.

Для России предлагаемый подход является во многом безальтернативным, поскольку в российской Арктике фактические наблюдения космической погоды и геомагнитного поля осуществляются лишь с помощью небольшой группы спутников и нескольких магнитных станций. Это практически исключает возможность оперативного диагностирования уровня геоиндуцированных токов для большей части арктической зоны РФ без развития продвинутых методов интеллектуального анализа крайне небольшого количества имеющихся данных.

Также, в Геофизическом центре РАН при помощи моделей машинного обучения анализируются накопленные большие массивы разнородных данных по наукам о Земле для прогноза пространственного распределения интересующих геолого-геофизических параметров.

-11

Валентина Уточникова доктор химических наук, профессор кафедры наноматериалов факультета наук о материалах МГУ

Мне очень хочется, чтобы получило развитие использование искусственного интеллекта в медицине. На самом деле, уже вполне практические применения у этого есть, но есть и два противоречивых фактора. С одной стороны, мы видим, что с помощью ИИ медицинские данные можно обрабатывать и ставить диагнозы. Иногда это получается даже точнее, чем у врачей-людей. С другой стороны, есть определенный страх ошибки. Он влечет за собой большой бюрократический барьер перед широким применением ИИ в медицине. Эти опасения понятны, тем более, что ИИ развивается слишком стремительно. Тем не менее хочется, чтобы меры, которые позволят увеличить надежность и при этом не отказываться от такого мощного инструмента, были разработаны, и искусственный интеллект в медицину и в биомедицину был внедрен более широко.

В своей работе искусственным интеллектом мы пользуемся регулярно, причем на разных уровнях. Так, ChatGPT очень удобен вместо поисковика, ускоряет работу. Ему можно задать вполне конкретный вопрос, например, «какой триплетный уровень бензоат-аниона?» И он приведет весь диапазон данных, которые проанализирует по литературе, причем со ссылками. Даже смог выделить мою работу, когда я попросила.

Кроме того, часто нам приходится иметь дело с работой в смежных областях, какая-то быстрая консультация бывает тоже нужна. Естественно, потом все научные фактические данные мы проверяем, но он все равно помогает, экономя время.

Мы используем нейросети и в научной работе. Например, мы затеяли довольно большой масштабный проект по предсказанию оптимального люминофора для органических светодиодов на основе лантанидов. Уже большая работа проделана — большой анализ с помощью машинного обучения проведен, и есть первые результаты. В инфракрасной области мы уже умеем предсказывать свойства органических светодиодов по имеющимся свойствам материалов, которые были использованы при их создании. Работа будет продолжаться — перейдем в видимый диапазон. И надеюсь, что сможем потом перейти на люминофоры других классов. И это очень интересно!

-12

Евгений Чойнзонов ФГБНУ «Томский национальный исследовательский медицинский центр Российской академии наук»

Нейросети и ИИ все больше входят в нашу жизнь, и это закономерный процесс, который будет только усиливаться. В медицине — также. Уже сейчас есть обучаемые системы для определения по КТ, МРТ-снимкам или по морфологическим фотографиям опухолей разных локализаций. По аналитическим способностям, эффективности и точности эти системы уже начинают превосходить диагностов высокого уровня и далее они будут все более совершенствоваться. Их использование пока еще не вошло в клинические рекомендации, но это ожидается уже совсем скоро.

Также ИИ будет все чаще использоваться как система помощи в принятии врачебных решений, позволяющая анализировать множество клинических и лабораторных показателей пациента и выносить мотивированное мнение.

На научном уровне мы уже встраиваем в сбор и анализ результатов исследования нейросети и системы ИИ. Учитывая мультифакториальность современных исследовательских данных, это уже просто насущная необходимость, поскольку такие данные по-другому становится просто невозможно охватить.

-13

Александр Фрадков Институт проблем машиноведения РАН (Санкт-Петербург)

Моя деятельность направлена скорее на создание новых средств ИИ, чем на их применение. А начал заниматься этим я еще будучи студентом матмеха Ленинградского университета. Первая моя публикация про распознавание образов и машинное обучение вышла в 1971 году.

Сегодняшнее развитие ИИ похоже на развитие персональных компьютеров: когда-то никто не знал, что это такое, а сейчас мы уже не можем без них обходиться.

-14

Дмитрий Онищенко доктор технических наук, профессор кафедры Э-2 МГТУ им. Н.Э. Баумана, директор Научно-образовательного центра «Конструкторское бюро молодежи», Научный руководитель межвузовской студенческой инженерно технологической корпорации, Исполнительный директор совета старейшин (ветеранов) отрасли поршневого двигателестроения

Вопросы искусственного интеллекта уже давно интересуют научное сообщество. И, конечно же, давно существует практическое применение технологий, связанных с ИИ. В научном сообществе идет дискуссия, что можно считать искусственным интеллектом. Основной вопрос: достижимо в рамках существующего формата ИИ тех качеств и свойств, которые присущи классическому определению интеллекта? Возможно ли сравнивать ИИ с человеческим интеллектом? Какие критерии необходимо брать для сравнения?

Но, тем не менее, как бы мы ни считали, как бы мы ни спорили, сегодня актуальность технологий искусственного интеллекта неоспорима. Сейчас уже даже во многих веб-браузерах интегрирована система с элементами искусственного интеллекта. Я предполагаю, что в ближайшем будущем технологии искусственного интеллекта будут имплементироваться в существующие САПР (CAD/СAM система автоматизированного проектирования) или, в более широком формате, PDM и PLM-системы (проектирование и управление жизненным циклом). Это позволит существенно сократить время разработки сложных технических систем, эффективно управлять их жизненным циклом и, очевидно, внести существенный вклад в решение целевого конфликта между энергетической и экологической проблемами нашей цивилизации.