Об авторе
Сергей Александрович Шумский, кандидат физико-математических наук, президент Российской ассоциации нейроинформатики, директор Научно-координационного совета Центра компетенций Национальной технологической инициативы «Искусственный интеллект».
«Плохие-хорошие» новости про ИИ
В отношении искусственного интеллекта есть две новости: хорошая и плохая. С какой начать? Давайте с хорошей! Она состоит в том, что машинный интеллект, когда он разовьется, неизбежно станет частью общей человеко-машинной цивилизации и унаследует от нее наши человеческие ценности. Так что даже в будущей цивилизации машинного интеллекта, когда он далеко превзойдет человеческий уровень, машины по-прежнему смогут действовать в наших интересах, а не преследовать чуждые нам цели, как какой-то чужеродный инопланетный разум. Плохая новость - за дружественность ИИ придется побороться. Машины придется воспитывать.
Данность такова, что индустриальная цивилизация достигла пределов своего развития. Обеспечить приличное существование всему населению Земли имеющиеся технологии не в состоянии. Без создания искусственного разума в ближайшие годы человечество просто не сможет обойтись.
Взгляд в прошлое
Главное отличие этой книги от многих других — попытка рассмотреть искусственный интеллект в глубоком историческом контексте, не ограничиваясь историей последних десятилетий. Поэтому свои рассуждения автор начинает с экскурса в прошлое.
В развитии нашей цивилизации многое зависит от того, каким образом связаны между собой два ключевых параметра: число людей, которых может прокормить имеющаяся технология и сложность самой технологии, то есть количество накопленных знаний.
Начнем экскурсию в прошлое, отправимся в доисторический период. В это время выживание человека возможно только за счет охоты и собирательства. Предельное количество людей, которых можно было прокормить – примерно 10 миллионов. Прорывом того времени становится появление языка. Язык привел к увеличению мозга человека. А это, как следствие, послужило стимулом для появления различных орудий труда, созданию более крупных общин, возможности осваивать новые территории. Такое развитие породило первый экологический кризис – вымирание большинства крупных животных вследствие нашествия Homo sapiens. После освоения человеком всех более или менее пригодных для жизни уголков планеты ресурсы такого экстенсивного развития были исчерпаны. Возникли предпосылки для освоения нового базового ресурса и нового уклада.
Выход из вышеупомянутого кризиса был найден около 10 000 – 12 000 лет назад в ходе так называемой неолитической революции и состоял в переходе к оседлому образу жизни, основанному на новых аграрных технологиях. Новые технологии определили появление городов, торговли, мореплавания, письменности и различных ремесел. Увеличился и лимит населения – теперь, благодаря технологиям, можно было прокормить примерно 1 миллиард человек. К слову сказать, этот предел численности был в реальности достигнут к концу XVIII века. Дальнейший рост был возможен только в рамках следующего — индустриального — технологического уклада. И действительно, приблизительно в это время в Европе началась (первая) промышленная революция.
Переход от аграрного к индустриальному укладу принято делить на несколько этапов, называемых промышленными революциями: 1 этап - XVIII — первой половины XIX века, появление паровых машин; 2 этап - со второй половины XIX до середины XX века, развитие электроэнергетики, химической, нефтяной, нефтехимической промышленность и автомобилестроения. Благодаря этому стало возможно прокормить до 10 миллиардов человек (для справки, сейчас насчитывается 7,8 миллиарда человек). Технологии стали сложнее, жителей планеты больше. Изменился и стиль жизни — из сельского он стал городским. Первая и вторая промышленные революции привели к ряду кризисов: 1) нехватка земли для сельского хозяйства, 2) современные технологии не способны справится с мусором, 3) повышается уровень СО2 и 4) замедление роста населения в городах.
Ответом на этот новый глобальный кризис является то, что обычно называют третьей промышленной революцией, связанной с цифровой обработкой информации, и четвертой — связанной с киберфизическими системами. То, что происходило и происходит в 20 веке, вот прямо сейчас. Обе эти революции качественно отличаются от предыдущих. По мнению автора, наш мозг не способен развиваться с такой же скоростью, что и технологии. И значит мы не можем сами себе помочь выйти из тупика. А значит, нам точно придется расширять пределы своего бытия и выходить за рамки биологической колыбели.
Мы достигли предела
Если вы заметили, то прирост населения Земли, как и накопленные знания и технологии от эпохи к эпохе увеличивались. И вот мы, по мнению автора, приближаемся к точке сингулярности. Для справки, математическая сингулярность - это точка, в которой математический объект не определён или имеет нерегулярное поведение. Математические объекты здесь – количественный показатель населения и количество накопленных знаний. С ростом населения все просто, он не может стремиться к бесконечности. С накопленными знаниями чуть сложнее. С ростом разделения труда уменьшается дублирование информации. И если все древние люди обладали примерно одним и тем же набором знаний, то в современном обществе знания становятся уникальными. Взять хотя бы количество современных профессий.
Рано или поздно все знания человечества уже не смогут помещаться в наших головах! Возможно, мы уже вплотную приблизились к этому пределу сложности человеческой цивилизации, так как, если знания всех людей не будут пересекаться вовсе, они перестанут понимать друг друга. Таким образом, мы приходим к выводу, что современная цивилизация достигла пределов своего развития, упершись в ограниченные способности человеческого мозга. Отсюда неминуемо следует, что, если мы хотим двигаться вперед, если хотим лучшей жизни для наших детей и внуков, мы должны найти если не замену, то какое-то подспорье человеческому разуму, то есть создать искусственный интеллект.
Знакомьтесь, искусственный интеллект
Ведущие ученые в области компьютерных наук, собравшиеся летом 1956 года на двухмесячный семинар в Дартмутском колледже, ввели понятие искусственного интеллекта. Человеческий интеллект в обыденной жизни связывают с умением решать самые разные задачи и добиваться своих целей, невзирая на обстоятельства. Аналогично искусственный интеллект ученые определили, как способность компьютеров решать любые задачи и добиваться поставленных целей не хуже человека, например, играть в интеллектуальные игры, доказывать математические теоремы и переводить тексты с одного языка на другой.
Разница между интеллектом человека и искусственным интеллектом в том, что человек способен учиться и развивать свой разум. Машина же, до последнего времени не была на это способна. Это требует больших вычислительных мощностей, которые стали доступны лишь недавно. Сейчас, машинное обучение – задача №1 тех, кто работает с ИИ. По мнению автора, сейчас искусственный интеллект слабый. Однако это не продлится долго. Как в случае с паровыми машинами, которые появились в 17 веке и были максимально простыми. В 18 веке они значительно усложнились и в итоге привели к появлению новых передовых технологий 20 века. Правда, процесс совершенствования ИИ займет значительно меньше времени.
Pro и Contra искусственного интеллекта
В создании и развитии новых технологий всегда есть те, кто в этом заинтересован и те, кто пытается тормозить прогресс. Искусственный интеллект не стал исключением.
Судя по тому, где сейчас больше всего используют ИИ, можно сделать выводы, кто вкладывается в его развитие. Такие глобальные цифровые платформы, как Amazon, Netflix и Google не жалеют средств и развивают искусственный интеллект для достижения своих целей. К примеру, «секретным оружием» Amazon, по утверждению автора, является его рекомендательная система, помогающая пользователям ориентироваться во всем этом разнообразии. И основана она опять-таки на алгоритмах машинного обучения, превращающих обычные учетные данные — кто что купил — в персональные рекомендации: кому что может быть интересно. В результате — большее удовлетворение покупателей и расширение рынка для продавцов, ведь теперь любой нишевой товар может найти своего покупателя. Этот список компаний дополняют еще те, кто занимается созданием голосовых помощников, типа Siri, Алиса, Google Assistant и прочие. И компании, которые создают умных роботов.
Однако было бы наивно ожидать, что предстоящий переход к цифровому укладу пройдет плавно, без подобного рода турбулентностей. Как это было в прошлых промышленных революциях, изменения влекут социальное напряжение. Как и прежде, нас ожидают новые «разборки» между трудящимися, теснимыми роботами, и их работодателями, стремящимися увеличивать прибыль акционеров за счет сокращения рабочей силы.
В международных отношениях странам, обладающим передовыми технологиями искусственного интеллекта, будет трудно удержаться при разделе новых рынков от силовых угроз, в том числе с использованием боевого ИИ. В ожидании сильного ИИ появится абсолютно новая «экзистенциальная» угроза роду людскому в целом — столкновение с интеллектом, который грозит в конце концов превзойти человеческий. И тогда вопрос о том, кто кем управляет и будем ли мы хозяевами своей судьбы в прекрасном новом мире, встанет во весь рост.
Что нас ждет
Первое столкновение людей с искусственным интеллектом произойдет очень скоро, еще в эпоху слабого ИИ.
- Уже сейчас под угрозой оказались представители массовых профессий из разряда «контролеров» (продавцы, охранники, кассиры), а также водители. Только представьте, к 2030 году в США может быть автоматизировано около 40% рабочих мест.
- Вслед за безлюдными сборочными цехами, складами и магазинами появятся безлюдные заводы, робофермы и строительные площадки, где дома будут печатать гигантские 3D-принтеры.
- Обслуживанием покупателей займутся программные агенты и роботы с развитым разговорным интеллектом, безграничными знаниями и столь же безграничным терпением.
- Дальше, государства захотят контролировать и управлять обществом и могут пойти по пути, который уже испытал Китай: рейтингование граждан. Что приведет к тотальному контролю над населением.
- Конечно, ИИ попадет в руки силовых структур и будет использоваться для защиты национальных и общественных интересов. И если в начале искусственный интеллект будет управляться человеком, то с его развитием, ему будет предоставлена автономия в части принятия решений. Лишенный человечности и воспитанный человеком (скажем, военными) он может делать жесткий выбор. Кроме того, ИИ породит новую гонку вооружения.
Что может помочь преодолеть все эти мрачные предсказания? Во-первых, цифровая демократия – это интенсивные сетевые коммуникации, нацеленные на выявление и гармонизацию разнообразных нужд всех слоев населения. Проще говоря, гражданское общество должно быть вовлечено в управление и влиять на выбор будущего, а не отдавать это право машине или небольшому количеству тех людей, которые ей управляют. Во-вторых, искусственный интеллект создают люди и именно они передают ему свои ценности и видение мира. От того, каким мы «воспитаем» ИИ, будет зависеть будущее наших детей и внуков. Мы с самого начала должны понимать, что настанет момент, когда люди не смогут сами контролировать решения более мощных искусственных стратегов, поэтому нам следует заранее создавать механизмы саморегуляции сообщества машинных интеллектов с учетом наших интересов.
Будущее уже близко
Итак, развитие ИИ неизбежно. Попробуем посмотреть, как это может быть.
Автор предлагает разделить будущее на три этапа:
Первый этап. Доминирование людей, пока объем наших знаний намного превышает машинные знания.
Этап второй. Человеко-машинная цивилизация, когда вклад людей и машин сопоставим между собой.
Третий этап. Доминирование машин, когда объем знаний машин намного превышает человеческие знания.
Согласно опросам множества экспертов, в области ИИ, медианный прогноз даты создания ИИ человеческого уровня — 2040 год, а формирования ИИ сверхчеловеческого уровня — 2060-й.
В ближайшие 5-10 лет мы увидим существенный рост бизнесов, использующих уже существующие для практических приложений технологии слабого ИИ, в первую очередь машинное зрение, разговорный интеллект и рекомендательные системы. Нас ждет развитие умных домов, ИИ ассистентов, которые не только помогают, но и учат.
Через 10-20 лет нас ждет широкого внедрения в нашу жизнь разумных роботов — скорее всего, у ИИ появится искусственная психика. Только обладая искусственной психикой человеческого уровня, роботы будут способны заменять или дополнять людей на производстве в массовых масштабах, обучаясь самым разным специальностям.
Заглянем еще дальше, на 20-40 лет вперед. По предположению автора, сверхинтеллект будет не единой сущностью, а мыслящей сетью интеллектов различного уровня. Машинный разум, как и современные активы, тоже будет разбит на фракции: от нескольких сверхинтеллектов в мега-дата-центрах — главных хабов будущей Сети, возможно Internet sapiens — через все более многочисленные и менее мощные дата-центры до самых многочисленных интеллектов простейших роботов и агентов. Пылесосов с человеческим разумом не появится, да и зачем они? А вот нечто, влияющее на стратегию страны или даже мира, вполне допустимо.
Главный вопрос ИИ
Конечно, пока будущее не наступило, оно только картинка: пугающая или привлекательная, все зависит от смотрящего. Но вот что точно жизненно важно в вопросе искусственного интеллекта – какие ценности мы сможем передать машине? Ведь они могут существенно отличаться у разных социальных групп, сообществ и стран, поэтому противоречия внутри человеческого разума неизбежно воспроизведутся и внутри коллективного машинного разума. Мир на Земле будет существенным образом зависеть от степени остроты этих внутренних противоречий. Образно говоря, если мы хотим договориться с будущим сверхинтеллектом, мы должны сначала суметь договориться между собой, дорасти до бесконфликтной самоорганизации всего мирового сообщества.