Искусственный интеллект, ИИ, AI – один из трендов ушедшего 2018 года в блогах и СМИ, благодаря идущим семимильными шагами исследованиям, успешно перекочевал в год 2019.
ИИ очаровывает и пугает. Илон Маск сравнил его исследования с вызовом демона наивным юнцом, который считает, что сможет контролировать мировое зло. Строится немало теорий о том, как именно ИИ может разрушить нашу планету, но все это пока грезится научной фантастикой.
Куда более реальные опасения у обычных нормальных людей вызывает тот факт, что ИИ все чаще и все в больших объемах замещает живых людей в офисах и на производстве. Технологии «высвобождают ставки» - то есть, сокращают потребность в людях на рабочих местах. Думается, что те, чьи ставки «высвободились», не очень-то рады такому прогрессу.
Это уже не шуточная угроза «из завтра». К примеру, бывший глава исследовательский подразделений Apple, Microsoft, Google, инвестор и эксперт по ИИ Кай-фу Ли недавно заявил, что по его мнению в ближайшие 15-20 лет технологии автоматизации и искусственного интеллекта «высвободят» 40% рабочих мест по всему миру. В группе риска и «рабочие» специальности и интеллектуальные.
Надо понимать, что 40% рабочих мест – это 40% людей, которые остаются на улице.
Да, главы корпораций твердят, что этим специалистам подыскивают новые рабочие места. Но когда-нибудь и эти места закончатся, потому что процессы на них тоже будут автоматизированы.
А что дальше?
Сегодня мы часто слышим сенсационные заявления о том, что в будущем математики и программисты будут никому не нужны: искусственный интеллект заменит не только их, но и медиков, юристов, экономистов и т.д.
С экспертами «Hello World! Technologies» мы порассуждали о том, почему в современных реалиях это всего лишь жуткая фантазия и почему в ближайшие десятки лет ИИ этим специальностям «не угрожает».
Ответ на вопрос почему этого не будет следует искать в прошлом такой фундаментальной науки как математика.
На рубеже XIX и ХХ века пошатнулся на тот момент незыблемый и, казалось, надежный фундамент математики – теория множеств, созданная во второй половине XIX века Георгом Кантором.
Обнаружились так называемые парадоксы теории множеств: оказалось, что с помощью логически верных рассуждений можно одновременно доказать некое утверждение и его отрицание. Это означало, что теория множеств противоречива. Проще говоря – доказать можно, буквально, все, что в голову взбредет.
Всякий раз, когда «всплывал» очередной парадокс теории множеств, это приводило к кризису математики. Таких кризисов было несколько, и все они, так или иначе, были связаны с понятием истины: что считать истинным, правильным утверждением?
В поисках выхода из кризисов математики прошлого сформировали несколько школ, которые яростно противостояли друг другу.
«Флагманом» одной из таких школ был немецкий математик Давид Гильберт, который в начале ХХ века попытался формализовать математические доказательства.
Что это значит? Гильберт сделал акцент на том, что в основе математической теории лежат аксиомы – то есть, утверждения, которые считаются истинными априори. Их нельзя ни доказать, ни опровергнуть, но мы считаем, что эти факты достоверны. Аксиомы, по его мнению, должны были стать фундаментом новой математической теории. С помощью формальных методов (правил вывода) из них следуют другие факты. Ну а если мы берем факты, которые считаем истинными и, не нарушая законов математической логики, системы вывода, получаем из них другие факты – то они опять будут истинны. Главное, чтобы система оставалась не противоречива!
Гильберт поставил себе цель описать вообще всю математику с помощью таких формализмов. Это назвали Гильбертовой программой. Если бы ученому это удалось, то математиков и программистов действительно легко было бы заменить вычислительной машиной. Она бы строила доказательство за доказательством, потому что они были бы тогда механистичны и их легко было бы получить без участия человека.
Главными противниками формалистской школы Гильберта были интуиционисты во главе с Лёйтзеном Брауэром. Но вовсе не они буквально уничтожили стройную Гильбертову программу ровно в тот момент, когда школа практически справилась с поставленной задачей и почти «спасла математику».
Камнем преткновения на пути Гильберта стала так называемая арифметика Пеано (это набор аксиом, которые описывают натуральные числа). По сути, все тут же свелось к обоснованию непротиворечивости натуральных чисел.
А «добил» Гильбертову программу австрийский логик и математик Курт Гёдель.
В 1931 году были опубликованы две теоремы Гёделя о непротиворечивости, которые разнесли ее в пух и прах - Теорема Гёделя о неполноте и вторая теорему Гёделя.
Первая теорема говорит о том, что если формальная арифметика непротиворечива, то в ней существует невыводимая и неопровержимая формула.
Красота данной формулировки может соперничать лишь с ее сутью. Которая заключается в том, что если мы имеем набор аксиом, содержащих арифметику Пеано (это наш «фундамент», на котором покоятся натуральные числа), то, в том случае, если этот набор аксиом не противоречив, значит существуют такие факты, которые сами по себе истинны, но их нельзя вывести, имея этот набор аксиом. То есть, в этой системе аксиом обнаружились недоказуемые вещи.
Если уровень абстракции все еще не кажется вам критическим, давайте оценим следствие из второй теоремы Гёделя. А именно – то, что непротиворечивость арифметики Пеано силами этой арифметики обосновать нельзя.
В результате и по сей день, до сих пор вообще неизвестно, арифметика Пеано все-таки противоречива или нет. Де-факто считается, что эти законы, описывающие натуральные числа не противоречивы, потому что их не разу не удалось свести к противоречию. Но на самом деле никто так ничего и не доказал.
Но если вдруг окажется, что этот набор аксиом противоречив, то многие результаты, которые были получены математиками в ХХ веке, могут быть поставлены под сомнение.
О чем же мы тут так долго и драматично рассуждали НА САМОМ ДЕЛЕ? Да попросту о том, что даже сами основы математики, на которые уповает и ИИ, и все отрасли программирования, и многие другие науки – они достаточно зыбкие.
Теперь представим машину, которая умеет что-то рассчитывать и делать вводы. Учитывая все вышесказанное, даже в рамках ограниченной системы (а наш мир таковой не является) вовсе не обязательно, что она сможет доказать те утверждения, которые нам необходимы, или прийти к нужному выводу.
Например, у нас есть робот-доктор, обязанность которого – назначать людям наиболее подходящее лечение. Рано или поздно он столкнется с таким заболеванием, которое посчитает неизлечимым. В реальности эта болезнь может оказаться обычным насморком! Но для него это неизлечимо не потому, что это действительно так, а потому, что набор аксиом, заложенный в робота, не позволяет найти способ лечения.
В целом, теорема Гёделя о неполноте выдала «индульгенцию» не только математикам и программистам, но и людям большинства специальностей.
Понятно, что по отношению к ИИ математики имеют некоторую «первичность», поскольку устанавливают законы, по которым этот самый ИИ работает. И, дескать, если уж им «хана», то всех остальных машины заменять влет. Мы доказали, что это не так. Математики нужны, чтобы создавать новые теории, проверять, что эти теории не противоречивы, то есть, на основании их можно строить выводы.
Еще один простейший пример, доказывающий, что математики «никуда не денутся» – это математический маятник, который проходится в курсе физики в средней школе. Это мощная математическая модель, она работает по своим законам, но учителя всегда отмечают, что в реальной жизни она этого делать не будет. У этой модели мы не учитываем силу трения и, соответственно, реальные маятники в жизни ведут себя совершенно иначе, нежели математический маятник. Тем не менее, с его помощью можно понять некоторые закономерности и законы природы, хотя бы отчасти.
Это еще один довод в пользу того, что живые люди нужны этому миру и предпосылок к тому, что они когда-то исчезнут, пока не наблюдается. По крайней мере, не с той математикой, которой мы располагаем сейчас.
Вообще, среди самих математиков есть противники механистических подходов к формализации, которые считают, что любая попытка такой формализации способна описать только текущее состояние математики. Соответственно, если действовать только так – человечество просто остановится в своем развитии, потому что новые методы, схемы, математические объекты, не будут укладываться в эту формализацию.
Но что же с остальными специальностями? «Все профессии важны, все профессии нужны» или некоторые нужнее?
Надо понимать, что любая математическая теория неточно описывает окружающий мир и нашу жизнь. Ни одна из них не может полностью отразить все то, что происходит вокруг нас. Как мы уже поняли из примера с роботом-доктором, выводы, сделанные с помощью ИИ, при проверке на прочность самой жизнью могут оказаться совершенно бредовыми.
Сами по себе попытки все описывать с помощью математических моделей – очень опасное занятие. Предположим, модель говорит, что некое явление или действие невозможно. Если люди начнут слепо доверять выводам машины, то произойдет подмена понятий: невозможно в рамках данной модели и невозможно в принципе. Таким образом, можно не только ошибок наделать, но и остановить прогресс, погубить людей и разрушить мир.
Например, какому-то больному будет отказано в лечении, потому что якобы он безнадежен. Хотя это всего лишь модель всему виной и, найдя другую, человеку можно было бы помочь. Или, допустим, система решит, что самолет или подводная лодка находится в ситуации, когда бороться дальше за выживание бессмысленно – по всем параметрам это невозможно. Смысла что-то предпринимать нет.
Для таких ситуаций как раз и нужен человек! Чтобы попытаться найти решение, которое выходит за рамки обычного или предсказуемого, машинного поведения.
Подобные ситуации очень хорошо описаны фантастами: в критической ситуации человек находит выход из безвыходной ситуации, хотя в повседневной жизни машины, как правило, превосходят.
