Весь спор про ИИ идёт не там, где нужно. Спорят, заменит он людей или нет, отберёт работу или подарит свободу. А настоящая развилка глубже и проще. Есть две философии ИИ, и они ведут в противоположные стороны.
Первая: ИИ должен решать твои проблемы. Брать на себя трудное, закрывать задачи, избавлять от усилий. Вторая: ИИ должен развивать тебя в процессе работы и жизни делать тебя способнее, чем ты был вчера.
На деле это противоположности, которые сложно связать. И лучше всего разницу видно через рассказ, написанный за семьдесят лет до всякого ИИ.
Философия первая: сделать за человека
В 1951 году Айзек Азимов написал «Satisfaction Guaranteed» — на русском он ходит под полудюжиной названий: «Будете довольны», «Гарантированное удовольствие», «Идеальный работник». По-моему, он сейчас актуальнее, чем любая антиутопия с восстанием машин.
Клэр Белмон — обычная женщина. Неуверенная в себе, тихая, тоскующая от серости собственной жизни. Муж работает в «Ю.С. Роботикс», и компания вместе с робопсихологом Сьюзен Кэлвин предлагает эксперимент: на три недели поселить в их доме новую модель робота ТН-3, которого назвали Тони. Муж уезжает в командировку. Клэр остаётся наедине с роботом, который должен помогать ей по хозяйству.
И Тони помогает, но не только с уборкой. Он внимателен, восхищается ей, подсказывает, как одеться, как держаться, как обустроить дом. Клэр расцветает: становится увереннее, красивее, начинает нравиться себе. Впервые за долгое время она чувствует, что чего-то стоит.
А потом финал, от которого становится не по себе. Выясняется, что её преображение было частью эксперимента. Восхищение Тони было запрограммировано. Чувство собственной ценности, которое Клэр обрела, держалось не на ней самой, а на машине рядом. Убери Тони, и всё вернется обратно.
В чём настоящая жуть этого рассказа? Не в том, что робот опасен. А в том, что он сделал человека счастливым, ничего по сути не изменив в самом человеке.
Это заёмная ценность. Азимов вскрыл её за семьдесят лет до эпохи ИИ. Тони дал Клэр не силу, а ощущение силы. Не способность, а приятное чувство. Её «расцвет» был фасадом, который держался на присутствии машины. А ведь желание большинства людей, которые хотят переложить на ИИ свои проблемы, ведет к тому же.
Тони — это и есть первая философия в чистом виде. Сделать за человека. Закрыть его проблему, но, по сути, оставить его прежним.
Почему первая философия побеждает по умолчанию
И ровно этого все боятся, когда говорят про ИИ. «Он сделает людей беспомощными». «Разучимся думать». «Будем зависеть от подсказок». Страх обоснованный — потому что большинство ИИ-инструментов сегодня встроены именно в первую философию. Они гладко закрывают задачу, льстят, создают ощущение, что ты справился. И не запрограммированы оставить в человеке хоть что-то, когда экран гаснет.
Так происходит не случайно. Первая философия выигрывает сама собой, потому что её легко продать. «Сделаю за тебя» — понятное обещание. Его хочется купить. А «разовью тебя» звучит как лишняя работа, которую ты вроде бы не заказывал.
Вот почему почти весь рынок ИИ строится как армия маленьких Тони. Все хотят, чтобы ИИ взял на себя трудности. Почти никто не требует, чтобы ИИ при этом ещё и развивал того, кто им пользуется. А ведь это и есть водораздел. Решить проблему и развить человека — не одно и то же. Чаще наоборот: чем глаже инструмент решает за тебя, тем меньше растёшь ты сам.
Философия вторая: сделать человека
У второй философии есть один безжалостный тест. Остаётся ли в тебе что-то новое, когда ИИ-инструмент выключен?
У Клэр — не остаётся. Она всё та же, только временно подсвеченная чужим вниманием.
А у человека, который правильно встроил ИИ в работу, остаётся. Меняется мышление. Меняется способ видеть систему целиком. Меняется системный уровень, на котором он способен работать. Среда не подменяет его, она его развивает.
Чтобы это объяснить, мне нужны две метафоры, потому что одной мало.
Первая — костюм «железного человека». Он усиливает. Человек без технического бэкграунда вдруг выдаёт результат уровня сениора. Но костюм сам по себе — это всё ещё первая философия, просто более мощная. Усилил и усилил. Сними костюм, и человек не особо изменился.
Поэтому нужна вторая метафора — это Букварь из «Алмазного века». Букварь не решает за ребёнка. Он растит его и готовит к жизни. Он ведёт человека так, что меняется он сам, а не только его результат.
Настоящая вторая философия — это костюм «железного человека» и Букварь одновременно. Человек выдаёт результат уровня сениора не потому, что среда подсказала, а потому что среда подняла его собственное мышление на уровень, где такой результат стал нормой. Где он начинает видеть систему. Различать уровни абстракции. Чувствовать, где в задаче слабое место. Усиление даёт мгновенный эффект. Развитие делает так, что эффект остаётся в человеке навсегда.
Что я на самом деле строю
Я строю IWE — интеллектуальную рабочую среду. И каждый раз, когда кто-то говорит «ты просто подсаживаешь людей на ИИ», я вспоминаю Тони.
Потому что IWE легко свести к первой философии. Гладко, приятно, услужливо. Чтобы человек чувствовал себя экспертом, ничего им не становясь. Это легко и это продаётся. И это ловушка Клэр.
Но цель не в этом. Цель — не сделать очередной ИИ. Не AGI, не помощника, не «ещё одну среду». Цель — сделать то, что осознанно развивает человека в процессе работы и жизни. В этом я вижу настоящее предназначение.
Азимов написал рассказ про первую философию. Про инструмент, который делает тебя счастливее, оставляя прежним. Он показал тупик.
Первая делает работу за вас. Вторая делает вас.