Так уж сложилось, что выражения “искусственный интеллект”, “машинное обучение”, а c недавних пор – “блокчейн” стали очень модными. С одной стороны, это прекрасно – вливание денег туды или сюды сильно зависит от уровня хайпа вокруг технологии, поскольку инвесторы доверяют только тому, о чем трубят на каждом шагу.
Но в умах непосвященных создает известную путаницу.
Свою погоду делают журналисты, классически не понимающие, о чем пишут, но зато не забывающие о сверхзадаче – сенсационном стиле изложения. В итоге большинство людей вообще не в курсе, что такое машинное обучение или там злосчастный блокчейн, несмотря на то, что читают про это в новостях ежедневно.
В силу этих причин многих привлекают надуманные проблемы, вроде восстания машин, ведь всем нравится Терминатор – 2, а тут, понимаешь, Скайнет уже на пороге. Тем более, многие раскрученные “говорящие головы”, олицетворяющие в глазах обывателей острие прогресса, вроде Чубайса Маска , с удовольствием подключаются к хайпу, преследуя свои коммерческие интересы. Примкнул к этим сомнительным персонажам и Брут Стивен Хокинг, человек из более научной тусовки, впрочем, область компетенции этого ученого не распространяется на проблемы из области информатики, так что ему простительно. Создали они чуть ли не фонд или какой-то там клуб борьбы с этим самым Скайнетом (искусственным интеллектом).
Труженикам из области того самого искусственного интеллекта это слушать забавно. Наверное, так чувствовал себя конструктор первого кофейного автомата, когда его спросили, не будет ли его творение нападать на людей. В научной среде, занимающейся проблемами искусственного интеллекта, существуют свои авторитеты, хотя из неспециалистов мало кто наслышан о фамилиях Ян Ли Кун или Эндрю Ын. Последний заметил, что беспокоиться сейчас о том, что нас захватит искусственный интеллект – это тоже самое, как переживать о перенаселении Марса. Марс мы, наверное, заселим и даже перенаселим – если, конечно, наморщим ум, перестанем выпускать изогнутые экраны, майнить биткоины и выдаивать планету в капиталистическом угаре сверхпотребления; но достаточно ли это актуальная проблема, чтобы думать о ней прямо сейчас?
Собственно, сам термин “искусственный интеллект” настолько размыт, что только какое-нибудь либерально-манипулятивное слово “свобода” может составить ему конкуренцию в плане полной невозможности понять без дополнительных пояснений, о чем речь.
Вот вы зашли в комнату, хлопнули в ладоши, свет загорелся. Интеллект? Безусловно. Искусственный? Ну, если выключатель не клацнула дрессированная макака, то видимо – да. Такому интеллекту, тем не менее, десятки лет. И вряд ли он когда-нибудь вас поработит, максимум – погасит свет в не самый удобный момент.
Попробуем разобраться с терминологией. Под тем, что в новостях обзывают “искусственным интеллектом”, как правило, подразумеваются алгоритмы, которые могут решать специализированные задачи, десять или двадцать лет назад доступные только человеку. К ним относятся многие трудноформализуемые вопросы. Например, попробуйте написать классический алгоритм, отличающий Роберта Де Ниро от Геннадия Хазанова. Держу пари, призадумаетесь, занеся руки над клавиатурой.
Здесь как раз и приняли эстафету алгоритмы машинного обучения, в семейство которых входят в том числе так всеми любимые нейронные сети. Общий смысл того процесса, который называется обучением, заключается в том, что программа сама улавливает закономерность в больших объемах данных (например, в миллионах пикселей из которых складывается бородавка и прочие части Дениры на разных фотографиях), которую человек явно запрограммировать неспособен. Несмотря на то, что где-то внутри нашего мозга есть механизм, позволяющий эффективно запоминать и узнавать лица, как именно это происходит, досконально не изучено. Большинство методов машинного обучения используют базу математической статистики – т.е. они экстраполируют преобразованные в циферки данные из большого количества примеров с известным ответом, чтобы предсказывать результат на новых данных. Грубо говоря- проводят линию через точечки, просто называется это теперь более модно, чем 70 лет назад.
Нейронная сеть делает примерно тоже самое и, несмотря на название, имеет очень отдаленное отношение к работе мозга. Математически нейронная сеть - это просто суперпозиция функций, но кто лайкал бы новости про алгоритм с таким скучным названием? Так что нейронной сети в этом смысле повезло, почти как коту Шредингера, кто знает, развился бы этот алгоритм так далеко, называйся он как-то иначе.
Отличие нейронной сети от других алгоритмов в том, что если там обычно требуется некая ручная работа с признаками, т.н. feature engineering, то для настройки нейронной сети лишь надо выбрать архитектуру. При этой нейронки хороши только в определенной области, в основном это распознавание образов или речи, а в других задачах рулят иные алгоритмы, например- градиентный бустинг в случае работы с категориальными признаками (названия штатов, пол и т.д.). Впрочем, для нейронок уже разрабатываются алгоритмы автоматического подбора архитектуры, а летом прошлого года Яндекс вывалил божественный СatBoost, который из коробки сам настраивает все эти ваши признаки.
При всех темпах прогресса, задачи подобные алгоритмы могут решать только узкоспециализированные. Да, в решении таких задач они постепенно обгоняют человека, и не то чтобы нам это было непривычно – калькулятор уже очень давно заруливает даже самых аутичных людей дождя в вопросах арифметики. Не успел Каспаров смахнуть слезу, продув электронному балбесу (кстати, тот шахматный алгоритм вообще написан без машинного обучения, что особенно оскорбительно), как уже в Го нейронная сетка нагнула этого ихнего корейского Брюса Седоля Ли, в компьютерной игре Дота чемпион тоже слил, хотя чего удивляться, что человек продул компьютеру в компьютерной игре? Один мой любимый Starcraft2 держится, что не может не радовать (хотя его штурмует уже больше года гугловский Deep Mind)
Под каждую такую задачу алгоритмы создаются разные и обучаются на огромных массивах данных. Проще говоря, алгоритм игры в Го не поймет, чего вообще от него хотят в тетрисе, и уж тем более не начнет отличать Хазановых от котят и так далее. В этом направлении делаются определенные шаги, и недавно появился алгоритм, который может с нуля учиться любой игре – и это действительно очень круто. Но опять же, это только игры, правила которых скармливаются этому алгоритму в строгом формализованном виде. Представить, что из такого алгоритма сам по себе разовьется умный и подлый надмозг, который поработит человечество, может только человек с гуманитарным специфическим складом ума.
Собственно, именно такие, целевые алгоритмы и развиваются сейчас с огромной скоростью, поскольку мы живем в эпоху лавочников, и любая технология должна приносить немедленные дивиденды. Нет, конечно, если вы — Гугл, и у вас ну очень много бабла, вы можете подкинуть на ноутбуки и доширак каким-нибудь волосатым фанатикам из opencog или еще откуда-нибудь, чтобы они там копошились в подвальчике со своим сильным ИИ, но в большей степени компании заинтересованы в областях, где коммерческий результат очевиден, поэтому изучают конкретные задачи ранжирования документов, распознавания людей, наведения ракет на распознанных людей, подсовывания в правильный момент рекламы туфель, генерирования порнухи и тому подобные востребованные обществом задачи. Серьезно ли успехи в этих узких направлениях приближают нас к созданию универсального (сильного) интеллекта – вопрос большой и спорный, но многие считают, что не особо.
Мы уже упомянули термин сильный ИИ. Это как раз тот вид ИИ, которого, возможно, стоит опасаться любителям чего-нибудь опасаться (хотя вряд ли). По-вражески он называется Artificial general intelligence. Это гипотетический интеллект, который обладает таким же универсальным разумом, как человек, или же превосходит его.
Почему же все-таки даже сильного ИИ не стоит бояться? Во-первых, по той же причине, почему в исследования сильного искусственного интеллекта вкладываются деньги по весьма остаточному принципу, т.е. примерно также, как в фонд борьбы с перенаселением Марса. Параллельно вою журналистов и некоторых декорационных инновационных персонажей о том, что сильный искусственный интеллект появится уже через пять-десять лет, в научной среде ведутся неторопливые дискуссии о том, возможен ли такой интеллект в принципе (некоторые Пенроузы с этим в корне не согласны) или о том, как он будет выглядеть, будет ли это какая-то программа или какой-то робот Вертер с человеческим телом (embodied, воплощенный интеллект), будет ли это алгоритмический интеллект, основанный на математической базе и детерминированных алгоритмах, копия биологического мозга или что-то иное и так далее до бесконечности. Т.е. этот вопрос находится, мягко говоря, даже не на инженерной стадии, чтобы предсказывать появление ИИ, как Жюль Верн предсказывал летательные аппараты тяжелее воздуха.
Бояться сильного ИИ уже можно переставать по причине того, что его не будет, а если и будет, то хрен знает когда. Все, кто хоть немного в теме, конечно, это понимают, но на каждом углу не орут, а то денег никто не даст.
Второй момент. Допустим, интеллект все-таки создали, предположим, он во всем превосходит лучших сынов человеческих, и при этом он – конченая мразь и решил презлым заплатить за предобрейшее (к этому тоже есть вопросы, но забудем сейчас про целевую функцию и предположим)
Так вот, есть мнение, что возможности потенциального сверхинтеллекта весьма конечны, т.е. не следует путать его с какой-то суперсилой. Любой интеллект лишь выбирает варианты действий из числа возможных в данной ситуации. Например, если посадите в бетонный мешок человека обычного и человека, в 100 раз умнее обычного, и замуруете их там, при всем интеллекте второго, он никуда оттуда не денется – т.к. он заключен в физическом теле, возможности которого конечны.
Конечно, на свободе, а тем более, если так называемый ИИ будет представлять собой какую-то распределенную систему, существующую по всей сети, возможностей для потенциальных действий, поиском которых он может заниматься, значительно больше, чем у человека в бетонном мешке. Но. Существуют фундаментальные физические ограничения на предельную скорость вычислений, связанные со скоростью света и планковской длиной, а со стороны термодинамики так называемый принцип Ландауэра,где описывается минимальное количество энергии, выделяемой при сбросе одного бита информации Таким образом, суммарная производительность системы конечной массы имеет свой лимит, и ресурсы любого сверхинтеллекта будут ограничены. Даже если этот компьютер будет размером с Землю, можно посчитать максимальное количество операций в секунду, доступное ему с учетом этих ограничений.
При этом в мире существует масса задач экспоненциальной сложности. Это означает, что ускорение вычислительной машины, работающей с такой задачей в несколько раз, дает лишь небольшой нелинейный прирост в эффективности решения такой задачи, т.е. преимущество даже супербыстрой машины будет не столь велико, как кажется. Сергей Марков приводил пример с кошельком : «Уверены ли вы, что, если ваша скорость мышления вырастет в тысячу раз, вы сможете уговорить любого прохожего на улице отдать свой кошелек?» Понятно, что далеко не факт.
Тем более, что поведение людей, или там метеорологические процессы, вообще описываются нелинейными системами, просчитать которые практически невозможно в условиях конечных ресурсов. Поэтому мы и не видим в политике особой корреляции между успехом и интеллектом - и умному, и дураку приходится принимать решения почти вслепую.
Так что очень маловероятно, что этот самый сверхразум, даже если от его мыслительных потугов начнут таять льды Антарктиды, сможет предсказать точный курс доллара через недельку, погоду в Сингапуре через месяц или поведение неадекватных бабуинов, прыгающих в угаре вокруг него). Соответственно, и возможности его по порабощению людишек будут весьма ограничены.
Переживать за интеллект искусственный в контексте восстания машин, наверное, не стоит. У людей столько захватывающих возможностей приморить себя самостоятельно: голод и перенаселение, капиталистический кризис, третья мировая на подходе, антибиотики теряют эффективность, ошибки в генах копятся, да и космос не дремлет- метеориты снуют туда-сюда. В общем, у каждого специалиста, будь то биолог, экономист или астрофизик, свой сценарий гибели человечества найдется)
Тем же, кому все-таки хочется пофантазировать на тему Скайнета , можно порекомендовать книжку
Автор, хоть и гуманитарий, местами излагает интересно.
