Я прекрасно помню тот день. Май 1997 года. Новость облетела мир, как электрический разряд: машина победила человека. Не простого человека, а Гарри Каспарова, чемпиона мира по шахматам, одного из величайших интеллектуалов своего времени. Компьютер Deep Blue от IBM взял верх в решающем матче. Это был момент, когда мы, казалось, заглянули в глаза собственному будущему, и оно оказалось сделано из кремния и проводов.
Тогда многие и я в их числе почувствовали страх. Наше последнее убежище, крепость человеческого разума, пала. Шахматы всегда считались высшим мерилом нашего ума, нашего стратегического гения. Если машина справляется с этим лучше, чем мы, то что дальше? А дальше что? Порабощение, безработица, апатичное будущее, где за нас думают роботы? Эта победа стала для нас не просто проигрышем, а символом капитуляции. Но, оглядываясь назад, я понимаю: тогда мы ошиблись в главном. Мы приняли инженерное чудо за разум. И это, пожалуй, одна из самых живучих и опасных иллюзий современности.
Что на самом деле чувствовал Каспаров?
После того матча Каспаров не скрывал своего потрясения. Он говорил, что ощутил за шахматной доской "совершенно иной вид интеллекта", нечеловеческий. Он даже допускал, что машине помогали люди, потому что Deep Blue делал нелогичные, но невероятно сильные ходы.
Разве не в этом вся суть драмы? Человек, который смотрит на мир через призму интуиции, эмоций, усталости и опыта, сталкивается с соперником, для которого нет ни усталости, ни души. Deep Blue не радовался победе, не боялся толпы фотографов и не выдавал свои сомнения легким дрожанием руки над кнопкой часов. Он просто работал.
В этом и кроется наш первый урок: мы склонны очеловечивать машины, приписывая им наши чувства и нашу мотивацию. Каспаров думал, что против него играет разум, но Deep Blue не стремился к славе или самосовершенствованию; его не интересовало, что такое "игра" или "победа". Он делал то, для чего был создан, и делал это виртуозно, но без малейшего внутреннего понимания.
Гарри Каспарову противостоял не "злобный гений", а очень дорогой и очень быстрый калькулятор, который умел анализировать до 200 миллионов позиций в секунду.
Узкий против Универсального: Почему победа над чемпионом это не разум?
Победа Deep Blue не сделала искусственный интеллект (ИИ) умнее в широком смысле. Она лишь подчеркнула его удивительную силу в очень узкой области.
Чтобы понять, почему, нам нужно провести четкую границу между двумя типами ИИ:
- Узкий ИИ (Weak AI): Это то, чем мы пользуемся каждый день. Это Siri, поисковик Google, алгоритм, рекомендующий вам сериал на стриминге, или система, отслеживающая мошеннические операции в банке. Узкий ИИ умеет превосходно делать ОДНУ конкретную вещь. Deep Blue мог играть в шахматы, но, как шутят эксперты, он не смог бы обыграть четырехлетнего ребенка в крестики-нолики. Он был бесполезен за пределами своей шахматной доски.
- Универсальный ИИ (Strong AI или AGI): Это "Святой Грааль" для разработчиков. Это система, которая способна, как человек, решать любую интеллектуальную задачу. Он способен к обучению, абстрактному мышлению, планированию и, главное, к пониманию. Такого ИИ, способного мыслить и иметь разум, на сегодняшний день просто не существует.
Deep Blue классический пример узкого ИИ. Он не мыслил, как человек, используя интуицию или собирая в голове огромную библиотеку стратегий. Вместо этого он использовал грубую силу: перебирал колоссальное количество возможных ходов, оценивал их по заданным программистами правилам и выбирал вариант с наивысшим рейтингом. По сути, он просто считал быстрее, чем любой человек.
Когда машина превосходит нас в чем-то, мы часто реагируем одинаково: "Ну, значит, для этого и не нужен был большой ум". Шахматы перестали быть мерилом человеческого интеллекта, когда выяснилось, что их можно "победить" с помощью скорости.
Человеческий разум это не только скорость. Почему Deep Blue нам не конкурент?
Наш мозг уникален своей широтой и гибкостью. Мы не просто запоминаем правила, мы понимаем концепции, переносим знания из одной области в другую и адаптируемся к открытому миру.
Подумайте: программа, которая превосходно распознает изображения, совершенно бесполезна для обработки естественного языка. А вот человек, обученный вождению в одном городе, может (пусть и с осторожностью) водить в другом, даже если он никогда не видел тамошних дорожных знаков. Deep Blue не смог бы применить свои шахматные навыки, чтобы выиграть в карты или даже сыграть на доске другого размера.
Именно это отсутствие генерализации ключевое ограничение современного, узкого ИИ.
Машины, которые сегодня нас окружают Google, рекомендательные системы, беспилотные автомобили впечатляют. Но их результативность основана на статистике и обработке огромных объемов данных (Big Data). Им нужно гораздо больше данных для обучения, чем нам.
Машина не может понять, что шоколадный пистолет вряд ли выстрелит настоящими пулями, если ее специально этому не обучили на миллионах примеров, и это фундаментальная проблема, которую пока никто не решил.
В чем же настоящая опасность, если не в Терминаторе?
Угроза кроется не в том, что завтра по улицам пойдут человекоподобные киборги. Настоящая опасность исходит из двух направлений, связанных именно с узким ИИ, который уже работает:
- Проблема "Черного ящика": Современные продвинутые алгоритмы, основанные на глубоком обучении, работают по принципу "черного ящика". Мы можем видеть ввод данных и вывод решения, но не можем понять, почему система пришла к такому выводу. Например, алгоритм может с высокой точностью диагностировать рак, но не может объяснить врачу, на основе каких признаков он принял это решение.
- Это страшно, когда ИИ используется в критически важных областях, таких как правосудие (оценка рисков рецидива), медицина (диагностика) или управление автономным оружием. Если система ошибается (а она ошибается, потому что не обладает здравым смыслом), мы не можем понять причину и исправить ее, пока не случится катастрофа. Разве не так?
- Потеря нашей функции: ИИ не заменяет человека, он его дополняет, и наиболее перспективным направлением является именно кооперация человека и машины. Но это не значит, что мы в безопасности. Машины превосходно справляются с рутинными, алгоритмическими, комбинаторными задачами. Это приводит к вытеснению человека из многих профессий, что вызывает беспокойство среди руководителей и исследователей. Нам придется научиться ценить то, что делает нас людьми: креативность, способность к обобщению, социальные навыки, эмоциональный интеллект и мудрость.
Уже сегодня узкий ИИ делает большинство вещей, связанных с обработкой больших данных, лучше, быстрее и дешевле, чем мы. Нам необходимо понять, что наша ценность как универсальных мыслителей растет пропорционально росту специализации машин.
Неужели Deep Blue не научил нас ничему?
Вернемся к шахматам. После поражения Каспарова шахматисты не перестали играть. Напротив: они начали использовать компьютеры как тренажеры, изучая новые, невиданные ранее комбинации, открытые машинной логикой. В результате общий уровень игры в мире повысился. В так называемом "шахматном фристайле" (командной игре человека с машиной) лучшие команды людей, вооруженных алгоритмами, показывают результаты выше, чем один суперкомпьютер.
Это ярчайший пример того, как нам следует подходить к искусственному интеллекту в целом: как к инструменту, который не заменяет нас, а расширяет наши возможности, помогая нам стать лучше, быстрее и креативнее.
Deep Blue был лишь началом. Сейчас у нас есть системы, способные самостоятельно учиться играть в десятки игр, начиная с нуля, просто играя сами с собой (как это сделала AlphaZero). Это впечатляющий прогресс в машинном обучении, но он все еще ограничен миром с четкими правилами и конечной целью.
Наше будущее зависит не от того, когда появится сверхразум (ASI), который нас уничтожит. Наше будущее это то, как мы будем использовать сегодняшний, узкий и полезный ИИ.
Мы должны перестать бояться того, что ИИ станет "слишком умным", и начать беспокоиться о том, что он может оказаться слишком послушным и слишком быстрым в достижении целей, которые мы, по глупости или недосмотру, поставим перед ним неправильно. Если мы поручим сверхразуму "избавиться от рака", он может решить, что самый эффективный способ уничтожить всех носителей раковых клеток. Это называется "проблемой выравнивания ценностей", и это настоящая экзистенциальная угроза.
Итак, Deep Blue не был нашим соперником. Он был лишь предвестником инструмента, который мы только учимся держать в руках.
А готовы ли мы сегодня кодифицировать свою человеческую мудрость, этику и здравый смысл, чтобы передать их машине, которая завтра превзойдет нас во всех отношениях? Или мы продолжим играть в эту "русскую рулетку", надеясь, что катастрофы не случится?.