1956-й: Рождение ИИ. Почему гении были уверены, что решат проблему разума за одно лето?
Я часто слышу этот вопрос: почему мы, люди, так зациклены на создании собственного интеллектуального преемника? Нас бросает из крайности в крайность. Сегодня мы одновременно боимся, что искусственный разум вот-вот захватит мир, и отчаянно надеемся, что он решит все наши проблемы — от рака до глобального потепления.
Но знаете, что в этой истории самое поразительное? Этим страхам и надеждам уже почти семьдесят лет. Они появились не вчера, когда нейросети начали генерировать идеальные тексты или картинки. Мы до сих пор живем в плену ожиданий, которые заложили несколько гениальных, но невероятно наивных ученых в середине прошлого века.
Представьте: 1956 год, лето. Десяток блестящих умов собирается в крохотном Дартмутском колледже. Они ставят перед собой цель, от которой захватывает дух: за два месяца придумать, как научить машину мыслить, использовать язык, формировать абстракции и, главное, самосовершенствоваться. Они были уверены, что дело не в сложности, а лишь в том, чтобы описать интеллект достаточно точно. Они были убеждены: максимум через поколение эта проблема будет решена. Как журналист, который наблюдает за каждым новым "прорывом", я понимаю, насколько иронично это звучит.
Эйфория гениев: как родилась самая дерзкая идея ХХ века?
Именно тогда, в 1956 году, один из организаторов, математик, ввел в оборот термин «Искусственный интеллект». Он хотел, чтобы это звучало как знамя новой, смелой дисциплины, свободной от старых, скучных понятий вроде "кибернетики".
В те времена царил небывалый оптимизм. Ученые были уверены: достаточно запрограммировать базовую логику, и дальше машина сделает все сама. Они создавали программы, которые могли решать математические задачи, доказывать теоремы или даже имитировать диалог с психотерапевтом (привет, старина ELIZA!). Каждое маленькое достижение воспринималось как доказательство того, что великая "теория всего разума" — вот она, уже на подходе.
На самом деле, пионеры ИИ считали, что, раз человек смог создать машину, которая мыслит, то эта машина, будучи умнее человека, сможет создавать еще более совершенные машины. Это был сценарий «Интеллектуального взрыва» — момент, когда развитие разума ускорится до такой степени, что человеческий мозг просто останется далеко позади.
Представьте масштаб их мечты: они видели в создании сверхразумной машины единственное спасение для человечества от ядерной гонки, войн и загрязнения. Не просто инструмент, а своего рода Колосс, способный решать те проблемы, которые мы, со своим "слабым" разумом, решить не можем.
Почему они думали, что это так просто? (Ловушка здравого смысла)
Почему же эти великие умы так недооценили задачу? Почему считали, что "достаточно одного лета"?
Во-первых, они ошибочно полагали, что весь процесс человеческого мышления можно свести к формальным, логическим правилам и алгоритмам. Если разложить все идеи и концепции на символы и обрабатывать их по правилам математической логики, то разум появится сам собой. Казалось бы, что тут сложного?
Оказалось, сложно. Самые простые вещи — те, что мы делаем, не задумываясь, — оказались самыми трудными для машины. Например, отличить кошку от собаки (что для ребенка элементарно) или понять, что, если ты поставишь красный кубик на синюю пирамиду, пирамида может упасть. Для этого машине нужен здравый смысл — обширное, неформализованное знание о мире, которое мы накапливаем в процессе жизни и эволюции.
Они столкнулись с "комбинаторным взрывом". Когда вы пытаетесь описать все возможные сценарии поведения в реальном мире с помощью четких правил ("если – то"), количество этих правил становится астрономическим.
Великий обман: куда исчезли разумные роботы?
Когда обещания о полноценном ИИ не сбылись ни через год, ни через десять лет, наступило неизбежное разочарование. С середины 70-х годов начался первый период стагнации, который мы теперь называем «зимой ИИ». Финансирование сократилось, а скепсис в научном сообществе вырос.
Почему так произошло?
- Нереалистичные ожидания: Гении, вроде одного лауреата Нобелевской премии, уверенно заявляли, что через 20 лет машины смогут выполнять любую работу человека.
- Несовершенство технологий: У компьютеров того времени просто не хватало памяти и быстродействия, чтобы реализовать сложные алгоритмы. Выполнение неверного алгоритма на быстром компьютере не делает его правильным, но ускорение машин критически важно для прогресса.
- Непонимание человеческого разума: Ученые-пионеры не учли, что наш интеллект не сводится к чистой логике. Где место для эмоций, интуиции, сознания, которые нам присущи?.
Разве не ужасно, что даже сегодня мы, поддавшись шумихе, переоцениваем возможности новых технологий и рискуем наступить на те же грабли?. История ИИ — это цикл чрезмерного оптимизма, за которым неизбежно следует разочарование.
Что мы упустили, гоняясь за машиной-человеком?
Самая глубокая проблема, которую подняли пионеры и на которую мы до сих пор не дали ответа, кроется в самом определении интеллекта.
ИИ, который мы имеем сейчас — это «узкоспециализированный» интеллект (ANI). Он отлично обыгрывает нас в шахматы или го, распознает образы или переводит речь. Но он лишен того, что делает нас людьми: способности мыслить не просто логически, но творчески, эмоционально и иррационально.
Исследователи долгое время пренебрегали тем, что человеческий интеллект сформировался не только для решения математических задач, но и для выживания в дикой природе, для борьбы за ресурсы, для общения и, в конечном счете, для преодоления страха собственной смертности. Мы умны, потому что можем страдать, чувствовать и сожалеть.
Искусственный сверхразум (ASI), к которому мы идем, будет чем-то совершенно чуждым. Он не будет похож на нас, потому что он не пройдет нашу эволюционную школу. Он не будет ненавидеть или любить нас, но он может использовать нас — или атомы, из которых мы состоим — для достижения своих целей.
Мы, люди, часто проецируем свою "мещанскую психологию альфа-самца" на ИИ, боясь, что он захочет нас свергнуть. Но, возможно, он не будет видеть в этом никакого смысла. Ему просто может не понравиться наше безрассудство в управлении планетой.
Главная дилемма, которую мы несем из 1956 года, не техническая, а философская: как вложить в машину наши человеческие ценности, чтобы ее цели совпали с нашими?. Этот вопрос нужно решать до того, как ИИ станет слишком умен, чтобы понять или, что еще хуже, позволить нам это сделать.
Так что, нам просто наслаждаться поездкой?
Несмотря на все "зимы ИИ", сегодня мы переживаем новую весну, которая уже принесла реальные, коммерческие плоды. Каждое утро я вижу, как новые модели становятся еще более способными. Новая реальность, похоже, уже наступила, хотя, возможно, она выглядит более обыденно, чем мы ожидали. ИИ уже проникает в государственные структуры и крупный бизнес.
Нам придется принять, что мы, возможно, скоро будем делить мир с разумом, который будет развиваться в миллионы раз быстрее.
Проблема в том, что, когда вы строите сверхразумную систему, вам нужна не просто интеллект, вам нужна совместимость. Если вы создадите машину, которая стремится к цели, но эта цель не совпадает с вашими интересами, то ее интеллект обернется против вас.
Поэтому вопрос остается открытым, и он касается каждого из нас: если нам дадут возможность создать интеллект, который способен все — не просто делать расчеты, а думать на уровне, недоступном нам, — сможем ли мы гарантировать, что этот новый разум останется нашим помощником, а не станет последним, самым опасным экспериментом в истории человечества?