Пока не создано ничего искусственного, что мы могли бы по праву называть интеллектом. Искусственный интеллект (ИИ) — это название весьма разнородной области исследований и набора технологий. Правильнее было бы расшифровывать ИИ как «Имитация Интеллекта».
Тем не менее, вокруг ИИ уже сложилась апокалиптическая мифология. Могут ли машины лишить людей работы, выйти из-под контроля, уничтожить своих создателей и всё живое на планете? По этим сценариям снято много фильмов. Каковы смыслы, цели и приоритеты развития ИИ? Чем стоит заниматься, а чем заниматься опасно? Нужно ли и возможно ли запрещать учёным и инженерам заниматься потенциально опасными исследованиями и разработками?
Ответы на эти вопросы следует искать не в науке, а в идеологии. Цивилизационной идеологии, раз уж речь заходит о дальнейшей судьбе человеческой цивилизации.
Что такое ИИ
Более точное название могло бы звучать так: «математическое моделирование возможностей человека решать сложные задачи». Но это слишком длинно, а термины любят краткость. Название Artificial Intelligence (AI) было предложено Джоном Маккарти летом 1956 года на конференции в Дартмутском университете, которая считается стартовой точкой в развитии AI как области исследований. На тот момент название отражало не вполне ясную мечту учёных, отдалённую перспективу. Это была метафора. Она ею остаётся и по сей день. Бесплодные споры о точном значении термина продолжаются до сих пор. Тем временем математики создают модели и методы, программисты их реализуют, технологи внедряют. Важно, что оно работает, а придумывать название своему детищу — это приятный «последний штрих» для конструктора. Но нет же, кто-то зачем-то называет совершенно разные вещи интеллектом, да ещё и искусственным.
К сожалению, термин прижился, и теперь вводит в заблуждение журналистов, чиновников и обывателей по всему миру. Впрочем, не по всему. В английском языке словосочетание artificial intelligence не имеет антропоморфной окраски, которую оно приобрело в русском переводе. Слово intelligence в используемом контексте скорее означает «разумность», а вовсе не «интеллект», для которого есть английский аналог intellect. И не разум. «Искусственная разумность», такой перевод был бы точнее.
Так что же такое ИИ на самом деле? В большинстве современных применений это технологии машинного обучения. На языке школьной математики — проведение функций через заданные точки. Имеется обучающая выборка прецедентов «вход, выход», полученная в результате наблюдений за некоторым процессом или системой как за «чёрным ящиком». По этим данным строится алгоритм, способный предсказывать «выход» Y по «входу» X.
Алгоритм определяется моделью, у которой есть параметры. Модель задаётся конструктором, это «скелет» алгоритма, его менять нельзя. Параметры обучаются по данным, это «мясо и жирок» алгоритма, его можно нарастить, скормив модели ещё немного новых данных. Вкратце, всё. Модель может быть искусственной нейронной сетью, но не обязательно — существуют тысячи моделей, устроенных по другим принципам.
В новостях мы встречаем сообщения о том, что ИИ «обыграл чемпиона мира», «научился диагностировать рак», «находить ошибки в школьных сочинениях» и даже «впервые принял решение убить человека». Правомерно ли вообще применять к ИИ глаголы активного действия, если это люди ставят задачи, организуют сбор данных, создают и обучают модели, внедряют и эксплуатируют эти системы?
Правомерно, но ровно в той же степени, когда мы говорим «автомат налил кофе». Не надо очеловечивать автомат словом «интеллект», даже если он узнаёт клиента с помощью видеокамеры и наливает его любимый кофе.
«Искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» — Национальная стратегия развития искусственного интеллекта на период до 2030 года, Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации».
ИИ-эффект (AI effect)
Сегодня мы уже считаем рутинными автоматическую проверку орфографии, игру в шашки, шахматы и даже го, распознавание печатных текстов, поисковые системы, распознавание лиц, кредитный скоринг и многое другое. Однако на момент постановки эти задачи считались интеллектуальными и причислялись к ИИ.
«Каждый раз, когда кто-то придумывал новый способ заставить компьютер делать нечто новое (играть в шашки) – обязательно появлялись критики, которые говорили: “Это не мышление”» — Памела Маккордак, «Машины, которые думают», 2004.
С лёгкой руки Памелы Маккордак это явление стали называть «AI effect». Каждый раз понятийная граница между «просто вычислением» и «магией искусственного интеллекта» отодвигалась в сторону ещё не решённых задач.
Искусственный интеллект — это те задачи, которые мы ещё не научились решать (Теорема Ларри Теслера).
Не можем дать определение интеллекта — ну и не надо! Терминологические споры непродуктивны. С точки зрения цивилизационной системы ценностей, надо решать прикладные задачи, которые делают жизнь людей лучше. Нет конкретной практической цели «создать интеллект» или «создать подобие себя». Подспудная цель «уподобиться Богу, сотворившему человека» достойна, разве что, религиозных фанатиков.
Что дальше и в чём опасности
Наблюдая за развитием роботизации и беспилотного транспорта, нетрудно предсказать, что следующим шагом станет полная автоматизация производств и цепочек поставок. Затем автоматизация управления и торговли. Автоматизация конструирования. Во всех случаях машины сначала будут облегчать работу людей, затем всё больше её замещать. Всё более сложные процессы будут моделироваться, оптимизироваться и полностью автоматизироваться.
Мы уже научились моделировать эволюцию. Дарвиновская триада — наследственность, изменчивость, отбор — давно осознана как универсальный механизм оптимизации компьютерных моделей по критерию выживаемости. Если организовать оптимизационный процесс так, чтобы выживали те модели, которые лучше других решают поставленную задачу. Этот общий механизм уже используется повсеместно: от машинного обучения до оптимизации инженерных конструкций. Ничто не мешает использовать эволюцию и для автоматического проектирования машин.
Пока мы не умеем моделировать целеполагание. Здесь и проходит грань, «красная линия» между искусственным интеллектом и естественным. Хотим мы того или нет, осознаём или нет, но всё наше целеполагание в итоге нацелено на выживание нас как биологического вида. Машина может копировать с человека всё, что угодно (зрение, слух, речь, движения, мышление, логику, обучаемость и т.д.), но только не нацеленность на выживание популяции машин, так как эта цель входит в противоречие с целями человеческой цивилизации.
Три закона робототехники Айзека Азимова [рассказ «Хоровод», 1942]:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Машины могут стать автономными. Производство автономных машин тоже может стать автономным. Но может ли конструирование новых машин стать автономным? Теоретически, да. С точки зрения цивилизационной идеологии — нет. Цель машины может закладываться в её конструкцию только людьми. Здесь тоже проходит «красная линия», которая должна быть закреплена технологически и юридически, а у каждого человека — ментально, посредством идеологии.
В 1986 году в романе «Роботы и Империя» Азимов добавил к трём законам самый приоритетный Нулевой Закон:
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Миф о самостоятельности компьютера
Этот миф постоянно поддерживается в общественном сознании, и остаётся только недоумевать и гадать — по незнанию или по злому умыслу. Сколько раз было сказано и на профессиональном языке, и на популярном: компьютер ничего не решает сам. Что в модель заложили создатели, то она и будет выдавать. Даже если это ИИ, даже если она удачно имитирует разумную деятельность человека, всё равно это лишь математическая (вычислительная) модель. Непосвящённого сбивает с толку, что преобразование данных между входом «чёрного ящика» и его выходом ему непонятно.
Если чёрный ящик непостижим для обывателя, это не означает, что чёрный ящик что-то делает сам.
Миф о сильном искусственном интеллекте
Слабый или функциональный ИИ является по сути не интеллектом, а компьютерной имитацией способности человека обучаться по прецедентам или делать логические выводы. Под сильным ИИ (Artificial General Intelligence, AGI) понимают способность машины решать любые интеллектуальные задачи, которые решают люди. Ключевым технологическим барьером на пути к сильному ИИ считается моделирование целеполагания. Человеческий интеллект эволюционировал сотни миллионов лет, и всё это время целеполагание определялось естественным отбором. Именно для этого мы развили массу когнитивных способностей: зрение, двигательный аппарат, быстроту реакции, речь, логическое мышление. Воссоздание всех этих способностей в сильном ИИ означает, что машины будут способны конкурировать с нами за выживание. Более того, воссоздание факторов развития этих способностей потребует организовать такую конкуренцию, хотя бы в форме игры или симуляции. Но кто гарантирует, что игрой всё и ограничится?
Доказательством того, что мы создали сильный ИИ, является его способность победить человечество в борьбе за выживание на планете Земля. Нужно ли нам такое доказательство собственного могущества?
С цивилизационной точки зрения это опасная и бессмысленная игра на грани самоуничтожения. Для практических нужд вполне достаточно функционального ИИ, в котором за целеполагание полностью отвечает человек.
Миф о вытеснении людей машинами
История показывает, что такие опасения напрасны. Мы плохо умеем предвидеть, какие профессии придут с новыми технологиями. В частности, много человеческого труда потребуется для создания роботов и моделей ИИ под различные задачи, для формирования обучающих данных, для освоения новых областей применения.
Кроме того, люди нужны друг другу. Говорить о безработице преждевременно, пока не хватает людей, чтобы в больницах уделять достаточно внимания каждому больному, а в детских садах и школах — каждому ребёнку. Средства, высвобождающиеся в результате тотальной автоматизации, должны перенаправляться в сферу услуг и социальные профессии.
Люди никогда не окажутся без дела, поскольку цивилизационное развитие безгранично.
Миф о социальной опасности свободного времени
Ряд социальных экспериментов действительно показал, что сообщества обеспеченных безработных могут быстро криминализироваться. Однако эти эксперименты вряд ли можно называть чистыми. Их участниками были люди, вырванные из контекста современного капиталистического общества, носители идеологии индивидуализма и общества потребления. Новые условия жизни требовали от них резкого изменения моделей поведения, которое едва ли возможно за столь короткий срок. Цивилизационное мышление, как и любой культурный код, воспитывается и формируется годами, в идеале — с детства.
Миф о восстании машин
Миф о технологической сингулярности активно пропагандируется идеологами трансгуманизма и «великой перезагрузки». Согласно предсказаниям футуролога Рэймонда Курцвейла, технологии вычислительной техники и ИИ превзойдут по сложности человеческий мозг к 2040 году, а совокупный мозг всего человечества — к 2060 году. Сингулярностью называют тот гипотетический момент, когда ИИ получит возможность воспроизводить и совершенствовать сам себя со скоростью, непостижимой для людей; и тогда, возможно, возникнет машинный разум, принципиально отличный от человеческого, и дальнейшую судьбу нашей цивилизации станет трудно предсказать.
После достижения сингулярности машины, наделённые автономностью, целеполаганием и способностью к репликации, могут вырваться из-под контроля. К счастью, такой проект является не только опасным, но также крайне долгим и дорогим. Будет ли он реализован, зависит исключительно от того, какие идеи овладеют умами элит и профессиональных сообществ к тому времени, когда он станет технически возможным. При главенстве цивилизационной идеологии такие проекты должны быть запрещены законодательно. Мы строим нашу, человеческую, цивилизацию, а не машинную.
Подытожим
Эти мифы становятся вполне реальными угрозами, если экстраполировать в будущее современное технократическое мышление «сделал потому, что мог», пронизанное идеологией индивидуализма. Однако цивилизационное мышление исходит из другого принципа: «сделал ради сохранения и развития человеческой цивилизации».
Станет ли машинный интеллект могильщиком человечества или послушным надёжным помощником, оставляя людям наиболее творческую работу и принятие ключевых решений? Это целиком зависит от нас самих, от того, успеем ли мы развить в себе цивилизационное мышление или застрянем на уровне «обезьяны с гранатой».
Распространено фаталистическое предубеждение, что научно-технический прогресс развивается сам по себе, по своим внутренним законам. Как только у учёных появляется техническая возможность что-то сделать, они обязательно это сделают. Нет, это не так. Решения о том, какими технологиями заниматься, формируются из коллективных образов будущего, которые сперва появляются в культуре под воздействием господствующей идеологии. Цивилизационная идеология формирует образ будущего, в котором у человечества есть чёткие цели и не менее чёткие «красные линии».
#идеология #цивилизационная идеология #искусственный интеллект #законы робототехники #технологическая сингулярность #рэй курцвейл