Каждый раз, когда я слышу очередной восторженный крик о новом «прорыве» в искусственном интеллекте, меня пробивает холодный пот. Не от страха перед роботами, а от жуткого ощущения дежавю. Нас кормят одинаковыми обещаниями уже семьдесят лет: вот-вот, буквально за углом, нас ждет сверхразум, который решит все проблемы.
И вот в чем загвоздка: мы, обычные люди, склонны верить в магию, когда сталкиваемся со сложной технологией. Мы готовы переложить ответственность на кремний. Но история ИИ это вовсе не история триумфа, это хроника грандиозного человеческого высокомерия, которое уже дважды обернулось сокрушительным крахом. Разве не так? Мы снова стоим на пике нереалистичных ожиданий, и я, как тот, кто видел эти циклы, спрашиваю: готовы ли вы к третьей «зиме ИИ»? Потому что, если мы не разберемся, почему провалились гении 50-х, мы обречены повторить их ошибки. Это не просто техническая проблема. Это наш личный экзистенциальный выбор: ждать чуда или взять контроль в свои руки.
Как десять человек пообещали создать разум за одно лето?
Отправной точкой нашей веры стала небольшая летняя тусовка в 1956 году, в Дартмутском колледже. Собралась горстка математиков, будущих отцов-основателей новой науки. Именно там Джон Маккарти придумал броский термин: «Искусственный интеллект».
Парни были настроены до неприличия оптимистично. Они полагали, что интеллект это нечто, что можно просто взять и запрограммировать. В своей заявке на финансирование они написали, что всего за одно лето смогут разработать машину, способную использовать естественный язык, формировать абстракции, решать задачи, доступные только человеку, и даже самосовершенствоваться. Звучит знакомо, правда?.
Они верили в так называемый «символический подход» что разум можно свести к логическим правилам и манипуляции символами, как в алгебре. Эйфория была такой, что один из них, Герберт Саймон, смело заявил: к 1985 году машины будут делать любую работу, которую способен выполнить человек.
Джон Маккарти и его коллеги считали, что разум можно "запрограммировать" всего за одно лето, и это было их главное заблуждение.
Почему же «весна ИИ» внезапно превратилась в «ледниковый период»?
На самом деле, первые успехи были. Машины научились доказывать математические теоремы (программа Logical Theorist) и даже имитировать психотерапевта (бот ELIZA). Но чем сложнее становились задачи, тем быстрее росло разочарование.
Проблема оказалась в двух вещах:
- Нехватка «железа». Компьютеры 60-х были огромными, медленными и не имели ни памяти, ни скорости, чтобы реализовать амбициозные логические модели. Все, что удавалось, работало только в «микромирах» узко ограниченных, упрощенных условиях.
- Неоправданные ожидания. Ученые запрашивали огромные деньги, обещая создание универсального разума (AGI), но вместо этого получали узкоспециализированные игрушки.
Критический удар пришелся на середину 1970-х. В Великобритании вышел отчет Лайтхилла, который раскритиковал «громадье планов» и отсутствие реальных результатов в области ИИ. За ним последовали сокращения финансирования в США. Началась первая «зима ИИ».
Вторая «зима» накатила в конце 80-х, когда лопнул пузырь вокруг «экспертных систем» программ, основанных на жестких логических правилах, которые должны были заменить специалистов (например, врачей). Они были слишком громоздкими, дорогими и не могли учесть «миллиарды исключений» реального мира.
И вот что самое показательное: Первая «зима» наступила из-за неоправданных ожиданий, а не отсутствия прогресса просто реальность оказалась сложнее, чем казалось математикам. Из-за этого позора, ученые стали избегать самого термина «искусственный интеллект», перейдя на скучные, но безопасные слова, вроде «машинное обучение» или «интеллектуальные агенты».
Главный парадокс разума: почему ИИ гений-идиот?
Даже сегодня, на пике развития технологий, мы бьемся об один и тот же философский и технический барьер, который был проблемой еще в 1959 году: здравый смысл.
Это лежит в основе так называемого «парадокса Моравека»: то, что легко для человека (простая ходьба, понимание шутки, отличие автобуса от страуса), невероятно сложно для машины. И наоборот: то, что трудно для нас (шахматы, математический анализ, обработка триллионов данных), легко для ИИ.
Почему? Потому что нынешние системы, даже самые продвинутые (на основе глубокого обучения), это лишь «продвинутые предсказатели», которые великолепно находят статистические шаблоны в огромных массивах данных. Но они не понимают мир. Они не имеют «здравого смысла», не могут формировать абстракции и, самое главное, не способны переносить навыки из одной области в другую.
Мы научили ИИ побеждать чемпионов мира в шахматах и Го, но он до сих пор не может отличить автобус от страуса в непривычной обстановке, потому что не понимает физических законов и контекста.
Третье лето ИИ: мы снова танцуем на тех же граблях?
Сегодня мы живем в новую «весну ИИ», и на этот раз она куда более убедительная, чем раньше. Что изменилось?
- Большие данные: Мы утонули в информации, которая стала топливом для алгоритмов.
- Вычислительная мощность: Процессоры и видеокарты (GPU) стали в миллионы раз мощнее, чем в 50-х.
- Глубокое обучение: Появились новые алгоритмы, которые наконец-то эффективно использовали эти данные и мощность.
Да, сейчас мы используем ИИ повсеместно: в навигаторах, банковских системах, медицине. Наш мир парализовало бы, если бы эти «слабые» (узкоспециализированные) системы внезапно исчезли.
Но вместе с реальными достижениями вернулся и старый добрый нереалистичный ажиотаж. Снова звучат те же мессианские обещания: ИИ решит проблемы климата, бедности и даже войны. Снова нам обещают «сингулярность» и сверхразум вот-вот. Мы снова делаем ставку на чудо, а не на кропотливое решение базовых проблем вроде «здравого смысла» и «непрозрачности».
Один из главных рисков сейчас это «проблема черного ящика». Системы машинного обучения стали настолько сложными, что даже разработчики часто не могут объяснить, почему было принято то или иное решение. Мы доверяем машинам принимать решения о кредитах, диагнозах или даже полетах, не понимая их внутренней логики. И это порождает еще более глубокую проблему:
Наш главный риск сейчас не восстание машин, а наша собственная «фундаментальная ошибка оценки подлинности», когда мы приписываем ИИ разум, мотивы и ценности там, где есть только сложная математика и предсказание следующего слова.
Так что же нам делать, чтобы не провалиться в очередную «зиму»?
Исторический опыт дает нам три важных урока, и все они касаются нас, а не машин:
- Снизить градус ожиданий. Перестаньте ждать Универсальный ИИ (AGI) и начните требовать от узкоспециализированных систем абсолютной надежности и прозрачности. Если ИИ не может объяснить, почему он отказал человеку в кредите, такой ИИ должен быть запрещен.
- Решить «Проблему контроля». Самый умный ИИ может преследовать самую глупую цель, как тот гипотетический «максимизатор производства скрепок», который использует все атомы во Вселенной для своей абсурдной задачи. Мы должны понять, как сделать так, чтобы, развиваясь, ИИ сохранял человеческие ценности. Эта проблема, кстати, до сих пор не решена.
- Перестать антропоморфизировать. ИИ это, прежде всего, технический продукт. Он не испытывает ненависти, но и не испытывает любви. Ему не нужны эмоции или личность, чтобы быть невероятно могущественным.
Мы стоим перед выбором: либо мы извлекаем уроки из истории двух «зим» и направляем усилия на создание безопасного, прозрачного и управляемого ИИ, либо мы продолжаем верить в сказку о «последнем изобретении человечества», которое решит всё за нас.
Если мы, люди, не можем договориться о собственных целях и ценностях, не можем избавиться от веры в магию и продолжаем переоценивать возможности компьютеров, не станем ли мы тем самым «идиотом» из парадокса, который в погоне за чудом не видит очевидного? Готовы ли вы снова оказаться в роли наивных мечтателей 1956 года, чьи грандиозные планы застыли на десятилетия? Вопрос уже не о том, что могут машины, а о том, что можем мы.