Отличный вопрос — он бьет в самую суть проблемы, с которой миру предстоит столкнуться. Но правда в том, что никто не знает ответа на этот вопрос, потому что он касается будущего при многих важных неизвестных, которые нельзя вычислить наперед. Сегодня ИИ уже приходит в науку, помогая искать решения там, где их трудно найти путем наблюдений и размышлений: вместо теорий и формул нейросети используют статистику. Мы уже подробно рассказывали о том, как ученые используют машинное обучение и что им удается узнать. Вероятно, со временем ИИ будет становиться мощнее и перейдет к выдвижению гипотез, постановке экспериментов и подлинным открытиям. О роли и перспективах ИИ в науке можно почитать, например, специальный раздел журнала Nature Reviews Physics.
Поскольку нейросетевой ИИ остается для людей «черным ящиком», то его ход рассуждений для нас закрыт — в общем случае мы не сможем узнать, как он пришел к тому или иному выводу. Мы получим от него научные открытия, но доверие к ним всегда будет условным. Хуже того, это ведет к эрозии понимания картины мира учеными, и в этом заключается главный риск. Начиная с эпохи Просвещения наука строилась на том, что каждый элемент картины имел обоснование, его можно было проверить в логике причин и следствий. Наука новой эпохи будет накапливать факты, выводы и прогнозы, обосновать которые людям не под силу.
Как не деградировать в такой ситуации? Сперва дам полушуточный ответ: посмотрите на тех, кто занимается квантовой физикой. Они тоже имеют дело с «черным ящиком», их реальность противоречит интуиции и полна парадоксов, частицы в щелевом эксперименте ведут себя возмутительно, и никто не знает, почему. Физики научились работать с тем, что не поддается пониманию, но зато хорошо описывается математически.
Ответ посерьезнее: придется адаптироваться и признать, что могут быть разные типы интеллекта, и человеческим машинный не обязательно удастся постичь. Скорее всего, ИИ не будет мыслить как люди, у него будут свои изъяны, и важно уметь их замечать, сохранив за собой способность оспаривать результаты машины. Следует не только разрабатывать и использовать ИИ для изучения мира, но и изучать непосредственно ИИ. Это должно стать отдельным направлением исследований. Возможно, так удастся не только продвинуться в интерпретируемости, но и выйти на новые идеи о том, что значит «познавать» и «мыслить».
Потребуется создать протокол перевода с машинного понимания на человеческое. В идеале нам нужен научный ИИ, который сумеет понятно для нас объяснить, что он открыл и как устроен мир с его точки зрения. И без галлюцинаций (нынешний генеративный ИИ часто галлюционирует, т.е. выдумывает вещи, не имеющие отношения к реальности).
