Путь от Узкого ИИ к Сильному ИИ. Почему это так трудно.
Ничто не заставит вас так высоко оценить человеческий интеллект, как понимание того, насколько невероятно сложно создать такой же умный компьютер, как мы сами. Построить небоскребы, отправить человека в космос, выяснить подробности того, как произошел Большой взрыв, - все это гораздо проще, чем понять наш собственный мозг или создать нечто столь же крутое, как он. На сегодняшний день человеческий мозг является самым сложным объектом в известной Вселенной.
Интересно, что сложность создания AGI (компьютера, умного, как человек в целом, а не только в одной узкой области) интуитивно не такая, как кажется. Создать компьютер, способный за долю секунды перемножить два десятизначных числа, невероятно просто. Создать компьютер, который, глядя на собаку, сможет ответить, кто это - собака или кошка, - невероятно сложно. Создать ИИ, способный обыграть любого человека в шахматы? Справимся. Создать такой ИИ, который сможет прочитать абзац из книжки с картинками для шестилетнего ребенка и не просто узнать слова, но и понять их смысл? В настоящее время Google тратит миллиарды долларов, пытаясь сделать это. Сложные вещи, такие как исчисление, стратегия финансового рынка, перевод языка, для компьютера умопомрачительно просты, а простые вещи, такие как зрение, движение, перемещение и восприятие, для него безумно сложны. Или, по словам компьютерщика Дональда Кнута, "ИИ к настоящему времени преуспел в выполнении практически всего, что требует "мышления", но не смог сделать большую часть того, что люди и животные делают "без участия мозга".
Задумавшись над этим, быстро понимаешь, что те вещи, которые кажутся нам простыми, на самом деле невероятно сложны, и кажутся простыми только потому, что эти навыки были оптимизированы в нас (и большинстве животных) сотнями миллионов лет эволюции животного мира. Когда вы протягиваете руку к какому-либо предмету, мышцы, сухожилия и кости в плече, локте и запястье мгновенно выполняют длинную серию физических операций в сочетании с вашими глазами, чтобы позволить вам перемещать руку по прямой линии в трех измерениях. Вам кажется, что это не требует усилий, потому что в вашем мозгу доведена до совершенства программа, позволяющая это делать. То же самое можно сказать и о том, что не вредоносное ПО тупое, раз не может разобраться с тестом на распознавание слов при регистрации нового аккаунта на сайте, а ваш мозг впечатляет тем, что он на это способен.
Как же нам достичь этого?
Первый ключ к созданию AGI: увеличение вычислительной мощности
Одна вещь, которая, безусловно, должна произойти, чтобы AGI стал возможным, - это увеличение мощности компьютерного оборудования. Если система искусственного интеллекта будет столь же интеллектуальной, как и мозг, то ее вычислительная мощность должна быть равна вычислительной мощности мозга.
Один из способов выразить эту способность - суммарное количество вычислений в секунду (cps), с которым может справиться мозг, и к этому числу можно прийти, определив максимальное количество cps для каждой структуры мозга и сложив их все вместе.
Рэй Курцвейл придумал короткий путь: он взял чью-то профессиональную оценку cps одной структуры и вес этой структуры по сравнению с весом всего мозга, а затем пропорционально умножил, чтобы получить оценку общего числа. Звучит несколько сомнительно, но он проделал это несколько раз с различными профессиональными оценками для разных областей, и всегда получалась одна и та же цифра - около10 квадриллионов к/с.
В настоящее время самый быстрый суперкомпьютер в мире - китайский Tianhe-2 - превзошел это число, достигнув 34 квадриллионов к/с. Но "Тяньхэ-2" - это еще и "козел": он занимает 720 квадратных метров площади, потребляет 24 мегаватта энергии (мозг работает всего на 20 ваттах), а его строительство обошлось в 390 миллионов долларов. В общем, для широкого применения, да и вообще для коммерческого или промышленного использования пока не годится.
Курцвейл предлагает задуматься о состоянии компьютеров, посмотрев на то, сколько к/с можно купить за 1000 долл. Когда это число достигнет уровня человека - 10 квадриллионов к/с, - тогда AGI станет реальной частью жизни.
Закон Мура - это исторически достоверное правило, согласно которому максимальная вычислительная мощность в мире удваивается примерно каждые два года, то есть развитие компьютерной техники, как и общее развитие человечества в истории, растет по экспоненте. Таким образом, мировые компьютеры стоимостью 1000 долл. побеждают мозг мыши и достигают примерно тысячной доли человеческого уровня. Это не так много, если вспомнить, что в 1985 году мы достигли триллионной доли человеческого уровня, в 1995 году - миллиардной, а в 2005 году - миллионной. Если в 2015 году мы достигнем тысячной доли, то это означает, что к 2025 году мы будем иметь доступный по цене компьютер, способный конкурировать с мозгом.
Таким образом, с точки зрения аппаратного обеспечения, сырьевая мощность, необходимая для AGI, технически доступна уже сейчас, в Китае, и мы будем готовы к доступному и широко распространенному оборудованию калибра AGI в течение 10 лет. Но сама по себе вычислительная мощность не делает компьютер в целом разумным - следующий вопрос заключается в том, как придать всей этой мощности интеллект человеческого уровня?
Второй ключ к созданию AGI: Сделать его умным
Это самая неприятная часть. По правде говоря, никто не знает, как сделать его умным - мы все еще спорим, как сделать компьютер разумным на уровне человека и способным понять, что такое собака, странная буква В и посредственный фильм. Но существует множество надуманных стратегий, и в какой-то момент одна из них сработает. Вот три наиболее распространенные стратегии, с которыми я столкнулся:
1) Плагиат мозга.
Это похоже на то, как ученые мучаются над тем, что сидящий рядом с ними в классе ребенок такой умный и постоянно показывает высокие результаты на тестах, и хотя они продолжают усердно учиться, они не могут добиться таких же результатов, как этот ребенок, и тогда они решают: "К черту все, я просто скопирую ответы этого ребенка". В этом есть смысл: мы пытаемся построить сверхсложный компьютер, а в голове у каждого из нас, оказывается, есть его идеальный прототип.
Научный мир активно работает над реинжинирингом мозга, чтобы понять, как эволюция создала такую радикальную вещь - по оптимистичным оценкам, мы сможем сделать это к 2030 году. После этого мы узнаем все секреты того, как мозг работает так мощно и эффективно, и сможем черпать из него вдохновение и воровать его инновации. Одним из примеров компьютерной архитектуры, имитирующей работу мозга, является искусственная нейронная сеть. Она начинается как сеть транзисторных "нейронов", соединенных друг с другом входами и выходами, и ничего не знает, как мозг младенца. Способ "обучения" заключается в том, что она пытается выполнить какую-либо задачу, например распознавание рукописного текста, и поначалу ее нейронные импульсы и последующие догадки по расшифровке каждой буквы будут совершенно случайными. Но когда ему говорят, что он сделал что-то правильно, транзисторные связи в проводящих путях, которые привели к созданию этого ответа, усиливаются; когда ему говорят, что он ошибся, связи в этих путях ослабевают. После множества таких проб и обратных связей сеть сама сформировала "умные" нейронные пути, и машина стала оптимизирована для выполнения задачи. Мозг учится примерно так же, но более сложным способом, и по мере того, как мы продолжаем изучать мозг, мы открываем новые гениальные способы использования нейронных схем.
Насколько мы далеки от достижения эмуляции всего мозга? Пока что мы только недавно смогли эмулировать мозг плоского червя длиной 1 мм, который состоит всего из 302 нейронов. Человеческий мозг содержит 100 млрд. нейронов. Если это кажется безнадежным проектом, вспомните о силе экспоненциального прогресса - теперь, когда мы покорили мозг крошечного червя, в скором времени это может произойти с муравьем, а затем с мышью, и вдруг все это покажется гораздо более правдоподобным.
2) Попытаться заставить эволюцию делать то же самое, что она делала раньше, но на этот раз для нас.
Так, если мы решим, что тест умного ребенка слишком сложен для копирования, мы можем попытаться скопировать то, как он готовится к тестам.
Вот что мы знаем. Создание компьютера, столь же мощного, как мозг, возможно - эволюция нашего собственного мозга тому доказательство. А если мозг слишком сложен для того, чтобы его имитировать, мы можем попытаться подражать эволюции. Дело в том, что даже если мы сможем имитировать мозг, это будет все равно, что пытаться построить самолет, копируя движения крыльев птицы - часто машины лучше всего конструировать, используя новый, машинный подход, а не в точности подражая биологии.
Как же можно смоделировать эволюцию для создания AGI? Метод, называемый "генетическими алгоритмами", будет работать примерно так: есть процесс выполнения и оценки, который повторяется снова и снова (точно так же, как биологические существа "выполняют" свою работу, проживая жизнь, и "оцениваются" по тому, удалось ли им размножиться или нет). Группа компьютеров пыталась выполнять задания, и наиболее успешные из них скрещивались друг с другом путем слияния половины программ каждого из них в новый компьютер. Менее успешные уничтожались. В течение многих, многих итераций этот процесс естественного отбора будет приводить к появлению все более совершенных компьютеров. Сложность заключается в создании автоматизированного цикла оценки и селекции, чтобы этот процесс эволюции мог протекать самостоятельно.
Недостатком копирования эволюции является то, что эволюция любит, когда на все уходит миллиард лет, а мы хотим сделать это за несколько десятилетий.
Но у нас есть много преимуществ перед эволюцией. Во-первых, эволюция не имеет предвидения и работает хаотично - она производит больше бесполезных мутаций, чем полезных, но мы будем контролировать этот процесс, чтобы в нем были только полезные глюки и целенаправленные подстройки. Во-вторых, эволюция не стремится ни к чему, в том числе и к интеллекту - иногда среда может даже отбирать против высокого интеллекта (поскольку он потребляет много энергии). С другой стороны, мы можем специально направить этот эволюционный процесс на повышение интеллекта. В-третьих, для отбора на интеллект эволюция должна внедрить множество других инноваций, способствующих развитию интеллекта, например, пересмотреть способы производства энергии клетками, когда мы сможем снять с себя это дополнительное бремя и использовать такие вещи, как электричество. Несомненно, мы будем намного, намного быстрее эволюции, но пока неясно, сможем ли мы настолько улучшить эволюцию, чтобы сделать эту стратегию жизнеспособной.
3) Сделать все это проблемой компьютера, а не нашей.
В этом случае ученые впадают в отчаяние и пытаются запрограммировать тест так, чтобы он проходил сам. Но это, возможно, самый перспективный из имеющихся у нас методов.
Идея заключается в том, что мы создадим компьютер, двумя основными навыками которого будут исследования в области ИИ и кодирование изменений в самом себе, что позволит ему не только учиться, но и совершенствовать собственную архитектуру. Мы научим компьютеры быть компьютерными учеными, чтобы они могли запустить свое собственное развитие. И это будет их основной задачей - понять, как сделать себя умнее. Подробнее об этом позже.
Все это может произойти в ближайшее время
Стремительное развитие аппаратных средств и инновационные эксперименты с программным обеспечением происходят одновременно, и AGI может подкрасться к нам быстро и неожиданно по двум основным причинам:
1) Экспоненциальный рост является интенсивным, и то, что кажется улиточным темпом развития, может быстро устремиться вверх.
2) Когда речь идет о программном обеспечении, прогресс может казаться медленным, но затем одно прозрение может мгновенно изменить темпы развития. Или, когда речь идет о таком явлении, как компьютер, который сам себя совершенствует, мы можем казаться далекими, но на самом деле мы находимся всего лишь на расстоянии одной подстройки системы от того, чтобы она стала в 1000 раз эффективнее и поднялась до уровня человеческого интеллекта.
Путь от AGI к ASI (Q-STAR)
В какой-то момент мы достигнем AGI - компьютеров с общим интеллектом человеческого уровня. Просто куча людей и компьютеров, живущих вместе в равенстве.
На самом деле это совсем не так. Дело в том, что AGI с идентичным человеку уровнем интеллекта и вычислительных возможностей все равно будут иметь значительные преимущества перед людьми.
ИИ, который, скорее всего, достигнет AGI, будучи запрограммированным на самосовершенствование, не будет рассматривать "интеллект на уровне человека" как некий важный рубеж - он является таковым только с нашей точки зрения, и у него не будет причин "останавливаться" на нашем уровне. А учитывая те преимущества перед нами, которыми будет обладать даже эквивалентный человеческому интеллекту AGI, совершенно очевидно, что он лишь на короткое время достигнет уровня человеческого интеллекта, после чего устремится дальше, в область превосходящего человеческий интеллекта.
Когда это произойдет, мы будем шокированы до глубины души. Причина в том, что, с нашей точки зрения,
А) хотя интеллект разных видов животных различен, главная характеристика интеллекта любого животного, которую мы знаем, - это то, что он намного ниже нашего, и
Б) мы считаем самых умных людей намного умнее самых тупых людей.
Поэтому по мере того, как ИИ будет увеличивать свой интеллект по отношению к нам, мы будем воспринимать его как простое животное, становящееся умнее. А когда он достигнет самого низкого уровня человеческих возможностей - Ник Бостром использует термин "деревенский идиот", - мы будем говорить: "О, ничего себе, это как тупой человек. Симпатично!" Но дело в том, что в широком спектре интеллекта все люди, от деревенского идиота до Эйнштейна, находятся в очень небольшом диапазоне, поэтому, достигнув уровня деревенского идиота и будучи объявленным AGI, он вдруг станет умнее Эйнштейна, и мы не поймем, что нас поразило:
Сверхразум такого масштаба мы не можем даже отдаленно понять, так же как шмель не может понять кейнсианскую экономику. В нашем мире умный означает 130 IQ, а глупый - 85 IQ - у нас нет слова для обозначения IQ в 12 952.
Что мы знаем, так это то, что абсолютное господство человека на Земле предполагает четкое правило: с интеллектом приходит власть. Это означает, что АСИ, когда мы его создадим, будет самым могущественным существом за всю историю существования жизни на Земле, и все живые существа, включая людей, будут полностью подчиняться его прихоти - и это может произойти уже в ближайшие несколько десятилетий.
Если наш скудный мозг смог изобрести Wi-Fi, то нечто, в 100, 1000 или 1 млрд. раз умнее нас, должно без проблем управлять расположением каждого атома в мире любым способом и в любое время - все, что мы считаем магией, все, чем, по нашему мнению, обладает верховный Бог, будет для АСИ таким же обыденным занятием, как для нас включение выключателя. Создание технологии, позволяющей обратить вспять старение человека, лечение болезней, голода и даже смертности, перепрограммирование погоды для защиты будущего жизни на Земле - все это вдруг станет возможным. Также возможен немедленный конец всей жизни на Земле. С нашей точки зрения, если АСИ возникнет, то на Земле появится всемогущий Бог, и для нас главный вопрос заключается в следующем:
Будет ли это добрый Бог?