Сегодня человечество действительно тесно связано с машинным обучением. Вместо того, чтобы создавать представления и функции знаний вручную, мы создаем алгоритмы, которые учатся, часто на основе необработанных данных восприятия. В основном то же самое, что делает человеческий младенец. В результате получается Искусственный интеллект, который не ограничен одним доменом. Одна и та же система может научиться переводить между любыми парами языков, или научитесь играть в любую компьютерную игру на консоли. Теперь, конечно, искусственный интеллект все еще далек от того, чтобы иметь такую же мощную междоменную способность учиться и планировать, как у человека. В коре головного мозга все еще есть некоторые алгоритмические трюки что человек еще не знаем, как сопоставить в машинах.
Вопрос в том, насколько мы далеки от того, чтобы соответствовать этим трюкам? Пару лет назад, был провен опрос некоторых ведущих мировых экспертов по И.И, чтобы узнать, что они думают, и один из вопросов, который был задан, "Как вы думаете, к какому году существует 50-процентная вероятность что мы достигнем машинного интеллекта человеческого уровня?"
И средний ответ был 2040 или 2050 год. Однако это может произойти намного, намного позже или раньше, правда в том, что на самом деле никто не знает.
Все сводится к физике.
- Биологический нейрон срабатывает, может быть, со скоростью 200 Герц, 200 раз в секунду. Но даже современный транзистор работает на частоте Гигагерц. Нейроны распространяются медленно в аксонах, максимум 100 метров в секунду. Но в компьютерах сигналы могут перемещаться со скоростью света. Существуют также ограничения по размеру,человеческий мозг должен помещаться внутри черепа, но компьютер может быть размером со склад или больше. Таким образом, потенциал сверхразума дремлет в материи, подобно тому, как сила атома дремала на протяжении всей человеческой истории, терпеливо ждал там до 1945 года. В этом столетии, ученые могут научиться пробуждать силу искусственного интеллекта. Мы можем увидеть интеллектуальный взрыв.
Как только появится сверхразум, судьба человечества может зависеть от того, что предпримет сверхразум.
Подумайте об этом: Машинный интеллект-последнее изобретение, которое когда-либо понадобится человечеству. Тогда машины будут изобретать лучше, чем мы, и они будут делать это в цифровом масштабе времени. То, что это означает, по сути, является телескопированием будущего. Подумайте обо всех сумасшедших технологиях, которые вы могли себе представить. Может быть, люди могли бы развиться со временем: лекарства от старения, колонизация космоса, самовоспроизводящиеся наноботы или загрузка разумов в компьютеры, всевозможные научно-фантастические штучки тем не менее это согласуется с законами физики. Весь этот сверхразум мог бы развиваться, и, возможно, довольно быстро.
По мере технологической зрелости и развитию сверхмощности И.И. сможет получить то, что хочет. Тогда у нас было бы будущее, которое определялось бы предпочтениями этого И.И. Теперь хороший вопрос: каковы эти предпочтения?
Предположим, человек ставим перед И.И. цель заставить людей улыбаться. Когда И.И. слаб, он выполняет полезные или забавные действия это вызывает у пользователя улыбку. Когда И.И. становится сверхразумным, он понимает, что существует более эффективный способ достижения этой цели: возьмёт под свой контроль весь мир и воткнёт электроды в лицевые мышцы людей чтобы вызывать постоянные сияющие улыбки.
Еще один пример, предположим, мы ставим перед И. И. цель решить сложную математическую задачу. Когда И.И. становится сверхразумным, он понимает, что наиболее эффективный способ получить решение этой проблемы заключается в превращении планеты в гигантский компьютер, чтобы увеличить его мыслительные способности. Искусственный интеллект может делать с нами то, что мы можем не одобрить.
Теперь вы можете сказать, что если компьютер начнет втыкать электроды в лица людей, мы бы просто отключили его. В реальности это не легко сделать, если мы стали зависимыми от системы. Например, где находится переключатель выключения Интернета? И готовы ли Вы его нажать?