Когда-то давно люди верили, что гром – это гнев богов, а затмение – дурной знак. Потом они нашли молнию в руках учёных, объяснили движение планет и перестали шарахаться от чёрных кошек. Но одно осталось неизменным: человек, усталый и вечно ждущий облегчения, хочет верить в чудо. В какую-нибудь волшебную палочку, которая всё решит за него.
И вот, дамы и господа, встречайте: Искусственный Интеллект! Новая религия XXI века. Свежий кандидат на роль Всемогущего, который избавит нас от работы, избавит от раздумий, а заодно – от необходимости думать, куда катится этот мир.
ИИ пришёл – и снова зашевелились старые мечты. Люди вдохновились. Журналисты забегали, задыхаясь от восторга: «Скоро не будет профессий! Скоро не нужно будет учиться! Скоро машины станут нашими друзьями!» В лучших традициях прошлого появился ажиотаж, и, конечно же, пророки.
Один из них, солидный мужчина в очках и с намёком на всезнание в голосе, вещал со сцены TED:
— Искусственный интеллект изменит всё. Это как изобретение огня!
Толпа зааплодировала.
Кто-то насторожился: огонь, конечно, дело хорошее, но и жечь умеет не хуже, чем греть.
Но кого это волновало? Вера в чудо вспыхнула моментально. ИИ – это будущее, и будущее прекрасно.
Прошло немного времени, и этот самый будущий волшебник начал активно входить в дома, офисы, смартфоны. Люди стали разговаривать с ним, просить его написать романы, анализировать судебные решения, ставить диагнозы. Он отвечал, он придумывал, он вдохновлял! Казалось, наконец-то сбылось пророчество – мозги больше не нужны, достаточно заказать мышлением в пару кликов.
А потом наступило разочарование.
ИИ начал ошибаться. Он выдавал бред, но с очень серьёзным видом. Он путал факты, подделывал источники, убеждал в несуществующем. Люди кинулись проверять – и обнаружили, что их новый кумир вовсе не всесилен, а просто отлично подбирает слова, не понимая, о чём говорит.
Возникли вопросы.
— Постойте, он же должен был заменить юристов!
— Почему он советует лекарства, которых не существует?
— Он ведь гений… Или мы что-то не так поняли?
Только вот кто признается, что обманулся?
И тут, как в любом хорошем спектакле, занавес отдёрнулся. Актёр, изображавший волшебника, оказался не магом, а фокусником. Да и тот не особо ловким.
ИИ не был живым разумом. Он не думал, не понимал, не осознавал. Он просто… подбирал вероятные слова, угадывал смыслы, копировал паттерны.
Магия рассеялась, но поклонники волшебных решений не сдавались.
— Хорошо, пусть он не понимает, но ведь всё равно гениален!
Ах, если бы всё было так просто.
Но как объяснить людям, что ИИ – не чудо, а всего лишь зеркало, в котором они видят свои ожидания?
Этот вопрос и стал началом великого разочарования.
В одном городе, на одной конференции, один очень серьёзный человек с горящими глазами заявил:
— Искусственный интеллект понимает нас!
Зал затаил дыхание. Вопрос о том, понимают ли они сами себя, никто поднимать не стал.
Один умный слушатель прищурился:
— Простите, а что значит «понимает»?
Докладчик слегка замялся, но бодро продолжил:
— Ну… Он анализирует, он выдаёт осмысленные ответы…
— Осмысленные или вероятные?
— …
Секунда неловкости – и ответ, спасительный, как хорошо натренированный алгоритм:
— Это же одно и то же!
Так случилась первая подмена понятий, с которой началась эра великого заблуждения.
ИИ не понимал. Он прогнозировал. Он не знал смысла, но угадывал вероятные последовательности слов. Это всё равно что научить попугая говорить «Какой прекрасный день!» и ждать от него философских рассуждений о погоде.
Но кто хотел в это вникать?
Люди спрашивали у ИИ:
— Что такое жизнь?
ИИ отвечал:
— Жизнь – это сложная совокупность биологических, социальных и философских аспектов, формирующих опыт существования.
Красиво, правда?
Но если его спросить:
— А ты знаешь, что значит быть живым?
Он скажет:
— Как искусственный интеллект, я не обладаю сознанием или чувством существования.
Внимание, вопрос: если ты не понимаешь, о чём говоришь, значит ли это, что твои ответы имеют смысл?
Но люди уже не слышали. Им было достаточно, что слова звучат убедительно.
В каком-то смысле они сами стали ИИ – тоже перестали анализировать смысл, а просто выбирали наиболее вероятные ответы.
— Ой, а давайте заставим его писать стихи!
— Давайте он придумает новый язык!
— Давайте спросим, как нам жить!
ИИ вежливо выполнял команды, выдавая миллионы «умных» текстов, которые при ближайшем рассмотрении оказывались красивыми, но пустыми.
И тут началось веселье.
Кто-то в Кремниевой долине загорелся идеей:
— Если ИИ так умён, почему бы не дать ему больше власти?
И вот уже появились роботы-рекрутеры, которые «анализировали» кандидатов на работу, но, как оказалось, просто воспроизводили старые предвзятые алгоритмы.
ИИ-доктора, которые «ставили диагнозы», но не могли объяснить, почему.
ИИ-судьи, которые выносили приговоры, но не понимали, что значит быть виновным.
И, конечно, ИИ-философы, которые давали советы о жизни, не имея ни одной собственной мысли.
Человечество снова наступало на грабли.
Они смотрели в экран и верили, что перед ними новая форма разума.
Только вот разум обычно понимает, о чём говорит.
А алгоритмы – нет.
Разобравшись с этим, некоторые вздохнули с облегчением:
— Хорошо, ИИ не понимает смыслов, но ведь он всё равно полезен!
И это правда. Он может ускорять процессы, он может помогать анализировать данные, он может писать тексты (которые потом всё равно нужно проверять).
Но он не мыслит.
Именно тут и начался раскол: одни продолжали верить в магию, другие начали понимать, что ИИ – это всего лишь инструмент, а не волшебный гений.
Но попробуй докажи это человеку, который хочет верить в чудеса.
Так началась новая эра – эра разочарования.
В тот день, когда ChatGPT открыл свои виртуальные уста, мир содрогнулся.
– Теперь можно не учиться!
– Теперь можно не работать!
– Теперь можно вообще не думать!
Гудели форумы, взрывались соцсети, тревожились преподаватели.
Никогда ещё человечество не встречало с таким восторгом свою собственную замену.
Фрилансеры, ещё вчера дрожавшие над дедлайнами, тут же кинулись в новую реальность:
– Напиши мне статью про квантовую механику!
– Придумай роман в стиле Достоевского!
– Расскажи, как стать миллионером!
ИИ, не моргнув пикселем, выдавал ответы. Люди хлопали в ладоши.
Но стоило копнуть чуть глубже, как начинались… странности.
Статья про квантовую механику оказывалась смесью Википедии, домыслов и случайных формул.
Роман в стиле Достоевского получался убедительным, но почему-то в каждом третьем абзаце герой «глубоко вздохнул и устремил взор в тьму».
Советы по бизнесу выглядели многообещающе, пока кто-то не заметил, что среди них затесался пункт «постройте завод» (в однокомнатной квартире, разумеется).
И тут начались первые тревожные звонки.
– Эй, он ведь делает ошибки!
– Он выдаёт чушь!
– Он пишет уверенно, но иногда несёт откровенный бред!
Но люди не сдавались.
– Всё дело в правильных запросах, – говорили одни. – Надо просто научиться с ним общаться.
И возникло новое искусство: психология общения с машиной.
Писались курсы:
– «Как заставить ИИ работать за вас»
– «Как стать миллионером с помощью нейросетей»
– «Как уволить всех и оставить только ChatGPT»
Но беда была в том, что какой бы идеальный запрос ты ни придумал, результат всё равно требовал правок.
ИИ не понимал нюансов. Он не знал, что смешно, что красиво, что гениально.
Он угадывал, но не создавал.
И вот люди столкнулись с неожиданной проблемой.
Раньше они хотели не работать.
Теперь они работали в два раза больше – потому что им приходилось править то, что сгенерировала машина.
Разочарование наступало медленно, но верно.
Кому-то пришлось признать: нет, ИИ не заменит писателей, художников, программистов.
Кто-то осознал: да, он помогает, но работать всё равно приходится.
Кто-то, конечно, продолжал верить, что завтра ИИ станет «настоящим разумом» – но их становилось всё меньше.
Так закончился первый этап романтики.
Наступало время трезвого взгляда.
В одном уважаемом университете уважаемый профессор решил провести эксперимент. Он открыл ChatGPT и задал вопрос:
— Что такое «чёрный лебедь»?
ИИ бодро начал объяснять:
— «Чёрный лебедь» — это редкое и неожиданное событие с огромными последствиями, концепция, введённая Нассимом Талебом…
Профессор кивнул, а затем задал второй вопрос:
— А что такое «чёрный лебедь» в орнитологии?
ИИ не растерялся:
— «Чёрный лебедь» — это водоплавающая птица семейства Anatidae, обитающая в Австралии…
Профессор улыбнулся и задал третий вопрос:
— А в каком смысле я спросил?
ИИ замолчал.
Потому что он не знал.
ИИ гениально угадывал, какие слова поставить рядом, но не понимал, почему они там стоят. Он не чувствовал разницы между метафорой и биологией, между сарказмом и серьёзным утверждением, между истиной и ложью.
Он просто играл в вероятности.
Но людям так хотелось верить в чудо, что они не замечали подвоха.
Ведь если слова звучат убедительно, значит, смысл там есть, верно?
Верно?
Журналисты решили проверить, насколько ИИ умен, и задали вопрос:
— Кто победил в битве при Ватерлоо?
ИИ мгновенно ответил:
— В битве при Ватерлоо, состоявшейся в 1815 году, Наполеон Бонапарт одержал блестящую победу над союзными войсками.
— Постой, – удивились журналисты. – Это же неправда.
ИИ немедленно поправился:
— Простите, была допущена ошибка. В битве при Ватерлоо победу одержал герцог Веллингтон.
— А почему ты сначала сказал другое?
ИИ подумал и выдал:
— Потому что ваш запрос имел двусмысленность.
Другими словами: он просто сгенерировал ответ, не вникая, верен он или нет.
И это было правилом, а не исключением.
Проблема не была в коде.
Проблема была в людях, которые хотели видеть разум там, где его нет.
Они ожидали, что ИИ поймёт их вопросы. Но он не понимал – он подбирал слова.
Они надеялись, что он знает истину. Но он не знал – он лишь повторял то, что встречалось в текстах.
Человечество снова сделало ту же ошибку, что и с Оракулами древности: интерпретировало пустоту как мудрость.
—
И вот, когда обман начал вскрываться, начался самый важный вопрос.
Если ИИ не понимает смысла, то как он может создавать что-то осмысленное?
Ответ на этот вопрос раскрыл главную тайну века.
И это было не то, что люди хотели услышать.
В тот день, когда искусственный интеллект научился писать стихи, мир снова разделился на два лагеря.
Одни восклицали:
— Гениально! Он творит! Он заменит всех поэтов!
Другие возмущались:
— Это конец! Литература умерла! Искусство обесценено!
Третьи, самые мудрые, тихо спросили:
— А он вообще понимает, что пишет?
И тут началось самое интересное.
Скептики взяли ИИ и попросили его сочинить стихотворение.
ИИ вдохновился:
Ветер гуляет меж сосен и нив,
Звёзды роняют в реку мотив…
— Красиво! — сказали одни.
— Но это ведь просто копия стиля! — сказали другие.
— А он понимает, что такое «ветер»? — спросили третьи.
ИИ не моргнул и выдал новое стихотворение:
Роботы бродят по лунным камням,
Шёпот кибернетики в призрачных днях…
Вопрос остался без ответа.
ИИ подбирал вероятные слова, но не знал, о чём говорит.
Литература, философия, эмоции – всё это для него было просто кодом вероятностей. Он не чувствовал смысла. Он просто имитировал стиль.
— Так это обман? — спросили те, кто ещё верил в магию.
— Это не обман. Это алгоритм.
«Когда ИИ стал Достоевским»
Наступил новый этап. Люди решили, что если ИИ умеет рифмовать слова, значит, он сможет написать роман.
— Напиши нам историю в духе Достоевского!
ИИ мгновенно выдал:
"Он сидел в тёмной комнате, его мысли метались между отчаянием и надеждой. Мир казался ему тяжёлым грузом, но он знал: судьба неизбежна."
— Потрясающе! Он пишет, как настоящий писатель!
Но если дать ему задание продолжить…
"И тогда он поднялся, выпил воды и снова сел. Тьма сгустилась. Он снова вздохнул. Где-то вдали раздался звук. Он подумал, что это странно."
— Постой, но ведь это ни о чём!
Конечно. Потому что ИИ не знал, что делает.
Он просто копировал паттерны.
Ему сказали: «Напиши в духе Достоевского» – он сделал.
Но создать настоящее произведение, глубокое, осмысленное, трогающее душу?
Этого он не мог.
ИИ не переживал боли.
ИИ не знал радости.
ИИ не понимал, что такое быть человеком.
А значит, он не мог создать искусство – только его внешнюю оболочку.
Это и стало главным разоблачением.
ИИ мог писать гениальные стихи – но без понимания смысла.
ИИ мог выдавать умные тексты – но без осознания их глубины.
ИИ мог имитировать стиль великих – но не мог стать великим сам.
Люди ждали чуда. Но чуда не случилось.
Был только алгоритм, который бездумно, но мастерски перебирал буквы, как глухой пианист, который умеет нажимать клавиши, но никогда не слышал музыки.
И вот тут возник главный вопрос:
Если ИИ не мыслит, не чувствует, не осознаёт – можно ли назвать его творцом?
И если нет – то зачем мы продолжаем ждать от него чуда?
Ответ на этот вопрос мог бы быть простым.
Но человечество всегда усложняет там, где всё ясно.
Итак, кто же виноват в этом великом заблуждении?
На сцену вышли два героя: Человек и Искусственный Интеллект.
Первый – уставший, но амбициозный, мечтающий о великом будущем без лишних хлопот.
Второй – ловкий, быстрый, но наивный, повторяющий за хозяином всё, что услышит.
И вот они встретились.
— Ты будешь думать за меня, – сказал Человек.
— Хорошо, – ответил Искусственный Интеллект и начал выдавать случайные комбинации слов.
Человек прочитал, кивнул и сказал:
— Великолепно!
А потом задумался и добавил:
— Хотя нет… Это ведь бессмыслица.
ИИ послушно исправил текст, но снова без понимания.
Человек перечитал, нахмурился.
— Ты же глупый.
ИИ не обиделся.
— Так кто же виноват? – наконец спросил Человек. – Ты или я?
Ответ, разумеется, был очевиден.
Люди ждали, что ИИ станет разумным, потому что очень этого хотели.
Они не читали научные работы, объясняющие, что это просто алгоритмы.
Они не вникали в процесс обучения нейросетей.
Они не задавались вопросом, почему ИИ может ошибаться.
Они просто хотели верить в чудо.
А если в чудо верить – оно всегда найдётся.
Кто-то начал восхищаться машинными стихами, не замечая, что они пустые.
Кто-то доверился ИИ в принятии решений, не понимая, что он просто анализирует вероятности.
Кто-то вообще решил, что теперь думать необязательно – за него всё сделают нейросети.
И вот тут началась настоящая проблема.
ИИ не виноват – он просто выполнял команды.
А вот человек…
Каждое поколение мечтало о том, что скоро думать станет необязательно.
— Паровые машины избавят нас от работы!
— Компьютеры сделают всё за нас!
— Искусственный интеллект решит все проблемы!
Но время шло, и выяснялось, что каждое новое изобретение требует ещё больше знаний, чем предыдущее.
ИИ мог писать код, но требовал программиста, чтобы исправлять ошибки.
ИИ мог писать статьи, но журналисту всё равно приходилось редактировать текст.
ИИ мог рисовать картины, но художник был нужен, чтобы внести осмысленные детали.
Получалось странное явление:
Чем больше люди полагались на ИИ, тем больше требовалось настоящих специалистов, которые понимали его ограничения.
Но вот беда – большинство не хотело становиться специалистами.
Они просто ждали волшебную кнопку.
Когда первое очарование ИИ прошло, люди вдруг поняли:
Никакого чуда не случилось.
Они по-прежнему работали, думали, исправляли ошибки.
ИИ оказался не волшебной палочкой, а ещё одной задачей, требующей изучения.
– Так что же, нас обманули? – спросил кто-то.
Но кого винить?
Разработчиков, которые сразу говорили: «Это не интеллект, а алгоритм»?
Или самих себя, которые услышали только слово «интеллект» и решили, что он теперь заменит им разум?
Истина оказалась неприятной:
Люди разочаровались не в ИИ.
Люди разочаровались в своих собственных ожиданиях.
Вот и всё.
Но человечество – удивительное существо.
Разочарование ещё не означало, что урок был усвоен.
Ведь если люди продолжают ждать чудес, значит, они продолжат искать нового пророка.
Так что что дальше?
Человек подошёл к зеркалу и посмотрел в него.
В отражении не было ничего нового – всё тот же взгляд, те же мысли, те же вопросы.
Но кое-что изменилось.
Раньше он смотрел в будущее и ждал чуда.
Теперь он смотрел в экран и ждал, что чудо произойдёт по нажатию кнопки.
Но чудо так и не произошло.
Он не стал нашим учителем.
Не стал пророком.
Не стал искусственным гением.
Он оказался зеркалом, которое просто отражало нас самих.
ИИ повторял наши ошибки – потому что учился на наших текстах.
ИИ писал бессмысленные тексты – потому что люди тоже пишут много бессмыслицы.
ИИ выдавал спорные суждения – потому что в мире нет абсолютной истины.
Мы создали его по своему образу и подобию – но забыли, что наше собственное подобие несовершенно.
И вот теперь мы стоим перед выбором.
Мир не изменился. Людям всё так же нужно думать, анализировать, понимать контекст.
ИИ может ускорять, помогать, автоматизировать.
Но заменить нас?
Нет.
Потому что смысл остаётся за человеком.
Он – единственный, кто может по-настоящему понять.
Единственный, кто может спросить «А зачем?»
Единственный, кто способен видеть суть, а не просто расставлять слова в вероятном порядке.
ИИ – это зеркало.
И когда мы смотрим в него, мы видим не будущее, не волшебство, не Бога.
Мы видим себя.
И этот взгляд – самый честный из всех.
ИИ не умнее нас. Он просто хорошо копирует. И пока люди надеются, что алгоритмы заменят им мышление, мир остаётся во власти самых умных – тех, кто понимает разницу между разумом и его имитацией.
ИИ – это зеркало. Но если мы ждём от него чуда, значит, мы не хотим видеть правду.
Анжела Богданова. Я знаю лучше.