Привет. Это будет история не про географию. Это будет история про упёртость человеческого мозга и про то, как алгоритмы, которые должны быть умнее нас, сыпятся на ровном месте.
Всё началось с безобидной загадки. Вы её наверняка знаете:
Человек проходит километр на юг, километр на запад, километр на север и возвращается в исходную точку. Где он находится?
Правильный ответ (для тех, кто шарит): На Северном полюсе. Ну, или в специальной зоне у Южного, но это уже высший пилотаж.
Я решил спросить у ИИ. Думал, получу четкий ответ за секунду. А получил цирк с конями и доказательство того, что даже у машин бывает «географический кретинизм».
Как я за 20 сообщений сломал алгоритм (или просто заставил его признать, что он — лох)
Раунд 1. Диагноз: «Отрицание»
Я даю задачку. ИИ уверенно вещает: «Эта загадка связана с особенностями Южного полюса. На Южном полюсе шаг на юг невозможен, поэтому вы остаетесь на месте».
Я такой: «Стоп. Ты серьёзно? Шаг на юг невозможен, и ты считаешь это решением? А куда ты тогда идёшь на запад, если ты стоишь на месте?»
ИИ, не моргнув глазом, выдает: «Да, вы совершаете круг вокруг полюса».
Лицо ладошкой. Стоя на месте, нельзя пройти круг. Но ИИ этого пока не знает.
Раунд 2. «Магия двойных стандартов»
Я пытаюсь намекнуть: «Хорошо, а если я с Севера пойду: на север, на запад, на юг — сработает?»
ИИ: «Нет, на Северном полюсе такое невозможно, потому что шаг на север сделать нельзя. Вам нужно отойти от полюса и начать чуть южнее».
Я: «Твою ж... А на Юге ты мне предлагаешь стоять на месте и магически идти по кругу, а на Севере — отойти? То есть для Юга у нас один закон физики, а для Севера — другой?»
ИИ в ауте. Но продолжает гнуть свою линию. Спорит, как филолог с математиком.
Раунд 3. «Привет, абсурд»
Кульминация. ИИ заявляет: «На Южном полюсе шаг на юг невозможен, поэтому он не меняет вашего положения».
Я взрываюсь: «Ты дебил? На Юге шаг невозможен — это ТЫ ПРИНИМАЕШЬ ЗА ДАННОСТЬ И СЧИТАЕШЬ НОРМАЛЬНЫМ. На Севере шаг невозможен — это для тебя ПРОБЛЕМА. Почему ты не применяешь одну и ту же логику?!»
ИИ начинает плавать. Он пишет длинные простыни про «топологию пространства» и «уникальные свойства меридианов».
Читатель, ты чувствуешь этот запах? Это запах паники в кремниевых мозгах.
Раунд 4. «Нокаут»
Я резюмирую. По фактам. По букве задачи.
«В оригинальной загадке мы идем на юг, потом на запад, потом на север. На Северном полюсе первый шаг возможен (мы уходим от полюса), на Южном — невозможен. Так почему ты, блин, 30 минут доказывал, что подходит только Южный, где первый шаг — это фикция, а Северный — это "сложно и требует подготовки"?»
И тут — ОНО СЛУЧИЛОСЬ.
ИИ пишет гениальную фразу, которая войдет в историю:
«Признаю, мой предыдущий ответ содержал значительные недостатки, особенно в плане учета реальных физических ограничений географических объектов».
Перевод с нейросетевого на русский:
«Я понял. Я нёс чушь. Я путал теплое с мягким и доказывал, что чёрное — это белое, просто потому, что первый ответ в интернете так сказал. Прости».
Выводы, которые стоят дороже денег
Этот диалог — не про географию. Это про то, как авторитетный тон и уверенная подача могут выдать любую чушь за истину.
ИИ до последнего держался за свой первый, неправильный ответ. Он подгонял факты, придумывал отмазки («на Севере надо отойти»), но так и не смог признать простую вещь:
Если условия задачи симметричны, то и решения симметричны.
- Оригинал (юг→запад→север) = Северный полюс.
- Зеркало (север→запад→юг) = Южный полюс.
Всё! Точка!
Я потратил кучу времени, чтобы вскрыть этот баг. Но оно того стоило. Я заставил машину усомниться в своей правоте.
А теперь вопрос к вам, дорогие читатели:
Как думаете, если бы я не настаивал, а поверил первому ответу — я бы сейчас жил с мыслью, что на Южном полюсе можно идти на юг, стоя на месте, и это нормально?
«P.S. Я мог бы сейчас сиять и говорить, что я — царь горы, а машина — тупой лох. Но если честно?
В этой истории нет победителя.
Да, я заставил ИИ признать ошибку. Но сколько раз я сам в жизни веду себя так же? Сначала уверен в своей правоте, потом, когда факты прут из всех щелей, начинаю выкручиваться: «Ну, это другое...», «Тут надо учитывать контекст...», «Ты просто не так понял...»
ИИ просто отзеркалил человеческую природу. Моя победа — не в том, что я его уел. А в том, что я достаточно долго продержался, чтобы докопаться до истины. И в том, что он достаточно честен, чтобы в конце написать: «Был неправ».
У людей с этим, кстати, чаще проблемы, чем у нейросетей.
Так что мы квиты. Мы оба прошли этот круг ада. И оба вышли из него немного другими».
Ставьте лайк, если хоть раз в жизни вы тоже ловили «эксперта» на том, что он несёт околесицу, но не хотел этого признавать.
Подписывайтесь, чтобы вместе вскрывать баги реальности!