В интервью Александр Рейман, заведующий отделом НОК ИПФ РАН, рассказал, как раньше искали научную информацию без интернета, почему программирование считалось искусством и чем человеческое мышление до сих пор отличается от работы современных нейросетей.
Вы работаете в науке уже несколько десятилетий. Как выглядела работа с информацией в то время, когда не было ни интернета, ни современных компьютеров?
Когда я пришёл в институт почти 46 лет назад, мне сразу сказали: «Программировать умеешь? Вот тебе компьютер». Компьютер СМ-3 тогда представлял собой две большие стойки электроники, отдельный экран и принтер. Мы занимались численными расчётами, сравнивали теорию с экспериментом, а потом постепенно начали автоматизировать эксперименты.
Многие вещи, которые сегодня делаются буквально за минуты, тогда требовали огромных усилий. Например, я ездил в командировки со специальным магнитофоном, на который записывались экспериментальные сигналы. Потом эти записи нужно было оцифровывать и обрабатывать уже в институте. Сейчас с подобными задачами легко справится любой старшеклассник. Но тогда это было настоящим искусством, особенно если учесть, что у компьютера было всего 64 килобайта оперативной памяти (сейчас трудно себе это представить, когда у телефона память измеряется гигабайтами). Программы приходилось буквально втискивать в доступные ресурсы, это называлось «искусством программирования».
Как менялась работа по мере развития технологий?
Постепенно появились персональные компьютеры, новые языки программирования, интернет. Всё это приходилось осваивать. В какой-то момент я, конечно, перестал быть активным программистом, но понимание осталось.
Когда я начал преподавать физику школьникам, ситуация с доступными источниками была совсем другой: учебники были, а интернета не было. Потом появились поисковые системы, электронные энциклопедии, доступ к огромному количеству информации. А затем пришли большие языковые модели, которые сейчас называют искусственным интеллектом. Вот тогда начались новые вопросы и новые проблемы.
Когда вы впервые столкнулись с тем, что сегодня называют искусственным интеллектом?
На самом деле мы сталкивались с подобными технологиями задолго до появления нынешнего ажиотажа, только это никто не называл «искусственным интеллектом». В соседней лаборатории коллеги занимались нейронными сетями, распознаванием образов, лиц и другими похожими задачами.
Поэтому, когда начался нынешний бум, я не был особенно удивлён. Более того, мне ближе термин «большие языковые модели». Потому что слово «интеллект» здесь, на мой взгляд, сильно преувеличено. Это очень мощный инструмент для работы с текстом и информацией, но не интеллект в человеческом смысле.
Используете ли вы такие системы в своей работе?
Да, использую, хотя и редко. Например, сейчас я пишу книгу по математике для школьников-физиков. Иногда бывает лень или просто нет времени делать какие-то промежуточные выкладки. Тогда можно быстро получить черновой вариант и дальше выбрать из него то, что действительно нужно.
Но важно понимать: результат нельзя бездумно копировать. Нейросеть может помочь ускорить работу, но она не заменяет понимание задачи.
Как вы относитесь к использованию искусственного интеллекта в образовании?
Как к инструменту. Не больше и не меньше. Сейчас я иногда сразу вижу, когда школьник приносит текст, написанный с помощью нейросети. Обычно это заметно по стилю: слишком правильный язык, слишком ровная структура.
Если ученик использовал такую систему для подготовки и действительно разобрался в материале – это прекрасно. Другое дело экзамен. На экзамене ты остаёшься один на один со своими знаниями. Что у тебя в голове осталось, то и покажешь. Поэтому пользоваться такими инструментами можно и нужно, но важно делать это осмысленно.
В чём, по вашему мнению, искусственный интеллект пока остаётся слабым?
Мне кажется, его главная проблема в том, что он не понимает важности информации. Для него все части текста примерно равнозначны. Очевидные вещи он может расписывать так же подробно, как действительно сложные и принципиальные.
Кроме того, языковые модели иногда создают так называемые фантомные ответы – уверенно выдают информацию, которая выглядит убедительно, но на самом деле не соответствует действительности. Человек способен усомниться и проверить. У машины такого механизма нет.
Какие качества останутся исключительно человеческими даже при дальнейшем развитии технологий?
Прежде всего, критическое мышление. Нужно уметь задавать вопрос: «А точно ли это правда?» Именно этого, как мне кажется, современным системам не хватает.
Второй важный момент – этика. Человек принимает решения, понимая последствия для других людей. Когда адепты ИИ начинают говорить о том, что искусственный интеллект сможет самостоятельно ставить диагнозы или даже принимать юридические решения, у меня возникают серьёзные опасения. Здесь недостаточно просто обработать данные – нужен человеческий взгляд и ответственность за результат.
За свою карьеру вы застали появление компьютеров, интернета и искусственного интеллекта. Какое из этих достижений вы считаете самым важным?
На нынешнем этапе – безусловно, интернет. Именно он радикально изменил скорость обмена информацией и доступ к знаниям.
Да, на моей памяти произошел переход от громоздких железяк к современным системам. Я успел поработать и с перфокартами, и с перфолентами, и с дискетами, и с целым зверинцем компьютеров и операционных систем.
Хорошо помню времена, когда для патентного поиска приходилось часами работать с микрофильмами. Позже, в Англии, я впервые увидел электронный поиск по ключевым словам. То, на что раньше уходили дни или недели, стало занимать минуты. Вот это действительно было революцией.
А что вас больше всего впечатляет в развитии вычислительной техники?
Скорее даже не впечатляет, а вызывает профессиональный интерес. Мы уже очень близко подошли к физическим пределам миниатюризации электронных компонентов. Когда говорят о технологиях порядка полутора нанометров, физики начинают улыбаться, потому что там уже работают совсем другие законы.
Поэтому мне интересно наблюдать, куда технологии будут развиваться дальше и какие новые подходы придут на смену нынешним.
Если бы вы могли оставить молодому поколению только одно напутствие по работе с искусственным интеллектом, что бы вы сказали?
Очень простую вещь: доверяй, но проверяй.
Есть ли пример, который хорошо показывает разницу между человеческим мышлением и работой машины?
Есть одна история. Когда-то, еще в эпоху больших машин, я написал программу для моделирования волновых процессов в кровеносных сосудах. Спустя много лет меня включили в соавторы статьи, которая попала к Андрею Викторовичу Гапонову-Грехову, главному редактору журнала «Радиофизика». Он посмотрел на результаты и сразу сказал: «Такого быть не может».
Он не пересчитывал данные и не запускал программу заново. Просто увидел, что результат противоречит физическому смыслу. Машина же честно выдала ответ на основании введённых параметров. Для неё всё было правильно.
Вот это, наверное, и есть главное отличие: человек иногда способен увидеть ошибку не потому, что всё пересчитал, а потому, что понимает, как устроен мир.