Анонс
Как работает логика искусственного интеллекта? Говорим без лишнего глубокомыслия и пугающего надувания щёк.
Вступление
Кратко напомню: чуть раньше в рассказе «НЛП в весёлых тапочках» я немного пошутил, сравнив неподражаемый в своей лести и услужливости искусственный интеллект, с персонажем юмористических романов Вудхауса — камердинером Дживсом. Также я походя немного потоптался по нейролингвистическому программированию. Правда, сделал я это с той «лёгкостью необыкновенной», которая некоторых из вас, особо умных, привела, надеюсь, в неописуемую ярость.
Сегодня хочу продлить вашу агонию и поговорить ещё об одной особенности ИИ — его пробелах в логике, особенно неформальной и житейской. Для этого вспомню хозяина Дживса — аристократа Берти Вустера, знающего множество фактов и цитат, но удивительно пассивного перед обычным здравым смыслом. Тем самым так похожим на ИИ, логика для которого тоже является слабым местом.
ЛОГИКА НЕЙРОСЕТИ КАК ДЫРКА В ИНТЕЛЛЕКТЕ
Рассмотрим в деталях, но без излишнего глубокомыслия, как работает логика искусственного интеллекта.
Берти стоял у окна, с сомнением разглядывая свой новый лимонно-желтый галстук.
— Дживс, — произнес он, — я тут на днях в клубе «Трутни» услышал одну презабавную вещицу. Что-то вроде теста на сообразительность. Решил блеснуть интеллектом перед стариной Бинго, но, честно говоря, цифры начали скакать в голове, как испуганные кролики.
— Да, сэр, я здесь, говорите, — отозвался Дживс, не отрываясь от чистки серебряного подноса
— Вот слушай: «Некая девица по имени Клариса спрашивает: „Сколько у моих братьев сестер, если у меня четыре брата и одна сестра?“». Я сразу сообразил: «Одна!», имея в виду ту самую сестру. А Бинго расхохотался так, что уронил монокль в суп. Где я прокололся, Дживс?
Дживс на мгновение замер, и в его глазах блеснул тот самый холодный свет чистого разума:
— Видите ли, сэр, ваш ответ математически… как бы это выразиться… скуп. Вы совершенно проигнорировали саму мисс Кларису.
— Как? Но она же спрашивает! — воскликнул Берти.
— Именно, сэр. Но для любого из её четырех братьев мисс Клариса также является сестрой. Следовательно, у каждого брата их две.
Берти на мгновение задумался, его лоб прорезала мучительная морщина интеллектуального усилия:
— Клянусь Юпитером, Дживс! Две! Как это ловко! Но послушай, если бы Бинго сказал мне, что их три, я бы, наверное, согласился. Ведь у них наверняка в Шропшире ещё есть кузина, верно?
— Боюсь, сэр, — мягко ответил Дживс, — что ваша готовность соглашаться с любым встречным Бинго делает вашу логику похожей на дырявое канотье. Она пропускает слишком много воды.
Здесь надо пояснить: современные чат-боты с искусственным интеллектом только недавно научились решать логическую задачку о девочке Кларисе. Но до сих пор их сомнения и нелепые выводы в ситуациях, для человека очевидных, делают их похожими на потерянного Берти.
Вот типичные провалы логики ИИ, видные из этого примера:
- Свято верит в свои «блестящие идеи», даже если они абсурдны.
- Не понимает вопрос до конца и может упустить ключевую деталь (саму Кларису).
- Любит «додумывать» контекст — если данных не хватает, придумает их сам (кузину из Шропшира), лишь бы дать ответ.
- Меняет мнение, чтобы создать хорошее впечатление и угодить пользователю.
- Плохо разбирается в человеческих взаимоотношениях и бытовых связях.
Однако продолжим:
— Дживс, я тут сочинил сонет! Слушайте: «О роза алая, в саду судьбы цветущая, твой аромат — как шёпот звёзд в ночи…»
— Весьма поэтично, сэр, — кивает Дживс. — Но, если позволите заметить, вы хотели написать записку садовнику с просьбой подстричь кусты.
— Ах да, точно! — хлопает себя по лбу Берти. — Проклятые кусты, я уже третий раз про них забываю. Кстати, Дживс, я тут нагуглил в одной нейросети новаторский способ обрезки роз. С помощью... огнемета! Мой цифровой советник уверяет, что это сэкономит недели ручного труда. Представь: поднёс, пффф! — лишние ветки сгорели, кусты идеально подстрижены, а пепел ещё и удобрением послужит. И никаких вредителей! Гениально, правда?
— С определённой точки зрения, сэр, — осторожно отвечает Дживс. — Однако что скажут на это розы?
— Ерунда! — отмахивается Берти. — Сейчас найду огнемёт в кладовке и покажу садовнику. Он будет в восторге!
Не проходит и десяти минут, как Берти снова вбегает в комнату в облаке дыма и копоти.
— Дживс! Что‑то пошло не так… Садовник в шоке, две клумбы обуглены, а тётушка Агата увидела дым из окна и решила, что мы объявили войну соседям!
— Видите ли, сэр, — мягко замечает Дживс, — иногда подход к розам логичнее, если доверить заботу о них тому, кто знает, где заканчивается эстетика и начинается поджог.
— Но идея‑то была хорошая!
Здесь видны «пересекающиеся параллели» с ИИ, который точно так же порой выдаёт эффектные, но абсурдные решения. Этому есть причины:
- Потеря смысла за формой: за внешней красивостью и образностью часто теряется целесообразность.
- Отсутствие инстинкта самосохранения: нейросеть не может просчитать реальные последствия и риски, так как не существует в физическом мире.
Итог: ИИ — это Берти Вустер, которому дали в руки ядерный реактор. Он будет невероятно вежлив, процитирует вам Шекспира, но нажмет на «красную кнопку» просто потому, что вы спросили: «А как тут сделать поярче?».
Всё это, конечно, немного попахивает лёгким, как дым, преувеличением. И тем не менее не забывайте: логическая «дырка» в искусственном интеллекте — это, к сожалению или к счастью, пока ещё реальность.
Верьте этому «супермозгу», работайте с ним, изучайте его. Но, читая очередной «гениальный» ответ от своего бота, присмотритесь внимательнее: не мелькает ли там за безупречно вежливым Дживсом, гладящим вас по головке, силуэт неуправляемого Берти Вустера в лимонном галстуке? И если почувствуете запах дыма — не говорите, что вас не предупреждали.
Ваш Михалыч.