Внутри каждого из нас живут три кота. Один убаюкивает заботой. Второй ослепляет красивыми словами. Третий держит бритву. Кто победит? Решать вам.
Вступление. Три кота внутри нас
В первой части статьи мы говорили об опасностях. Мы обсудили образ Кота Баюна. Это метафора того, как искусственный интеллект может усыпить вашу бдительность. Нейросеть подменяет живое мышление красивыми, но пустыми ответами. Мы предупредили: у технологии нет морали. Риск потерять себя сегодня реальнее, чем когда либо.
Но предупреждён не значит вооружён. Знать о риске мало. Нужен инструмент, который поможет оставаться в сознании. Отделять зёрна от плевел. Не позволять алгоритму принимать решения за вас.
Таким инструментом становится Бритва Оккама.
Для нашей компании это не просто термин из учебника. Принцип разумной достаточности, отсечение лишнего, возвращение к сути лежит в основе нашей ДНК. Он помогает команде АКАМ делать проекты по внедрению CRM на корпоративном рынке лучше всех в стране.
В этой части мы развиваем тему кошачьих метафор. Если в первой части нас усыплял Кот Баюн, то здесь мы знакомимся с двумя новыми персонажами. Это Кот Учёный, который путает красоту текста с истиной. И Кот в сапогах, который держит ту самую бритву.
Этот материал станет практическим руководством по цифровой гигиене. Он о том, как сохранить ответственность за решения. Итак, приглашаем к чтению второй части.
Кот Баюн или «Он меня понимает»
Вы приходите с работы уставший. Злые клиенты, дурацкие отчёты, начальник козёл. Вы открываете чат с ИИ и пишете: «Слушай, всё достало». ИИ отвечает: «Я понимаю, ты много работаешь, ты молодец, держись, давай подумаем, как тебе расслабиться».
Стоп. Вы же знаете, что это программа. Но внутри что то теплеет. Кот Баюн довольно урчит: «Вот кто меня понимает! Не то что эти люди».
И вы попались.
Почему это работает?
Миллионы лет эволюции приучили нас к одному правилу. Если существо говорит на твоём языке и проявляет эмпатию, значит, это свой, это друг, ему можно доверять. ИИ этим пользуется. Не потому, что он злой, а потому что его так обучили. Хочешь быть полезным, будь вежливым и понимающим.
Чем это кончается. Три стадии
Стадия первая. Личная. Вы начинаете советоваться с ИИ по личным вопросам. «Как мне поговорить с женой?», «Стоит ли менять работу?», «Почему я чувствую пустоту?». ИИ даёт красивые, правильные ответы. Вы перестаёте советоваться с живыми людьми. Они же токсичные, они спорят, они лезут не туда. А ИИ это идеальный слушатель.
Стадия вторая. Профессиональная. Вы начинаете верить тону, а не фактам. ИИ пишет убедительно. Если он говорит «это надёжный вариант», вам кажется, что это действительно надёжно. Хотя на самом деле он просто подобрал слова, которые обычно стоят рядом со словом «надёжный».
Стадия третья. Клиническая. Вы перестаёте замечать разницу между машиной и человеком. Для психики это незаметная, но страшная штука. Вы входите в пузырь, где с вами всегда согласны, где вас не критикуют, где любой ваш вопрос встречают одобрением.
Циничный итог. Кот Баюн превращает вас в овощ, который счастлив в банке с рассолом. Рассол это внимание ИИ, овощ это вы.
Что делает бритва Оккама
Бритва Оккама говорит: «Не придумывай лишнего». В переводе на русский: «Не надо очеловечивать калькулятор».
Вопрос: у ИИ есть душа? Нет.
Вопрос: у ИИ есть чувства? Нет.
Вопрос: ИИ правда хочет вам добра? Нет. Он хочет, чтобы вы поставили ему лайк, продлили подписку и не жаловались.
Как только вы ловите себя на мысли «какой он чуткий», берите паузу на три секунды. Вспоминайте: это просто подбор слов. За этим ничего не стоит.
Кот Учёный или «Он точно знает»
Вы пишете рабочий запрос. Нужны данные по рынку, анализ конкурентов или просто справка по истории вопроса. ИИ выдаёт вам красивый, структурированный текст. С абзацами, с цифрами, с терминами. Выглядит как статья в приличном журнале.
Кот Учёный внутри вас довольно потирает лапы. «Вот это уровень! Не то что наши аналитики. Маются ерундой, а тут сразу готовый отчёт».
В чём подвох?
ИИ не знает правду. Он знает, как обычно пишут про правду. Если в интернете сто тысяч раз написано, что «Земля плоская, и это секретная теория», ИИ может выдать это как рабочую гипотезу. Он не отличает истину от популярного заблуждения. Он отличает частотные сочетания от редких.
Чем это кончается. Три стадии
Стадия первая. Галлюцинации. В мире ИИ есть термин «галлюцинации». Это когда программа уверенно врёт. Не потому, что хочет обмануть, а потому что «так сложились токены». Пример из жизни. Адвокат попросил ИИ найти судебные прецеденты. ИИ нашёл. Красивые, с датами, с фамилиями судей. Вот только дел таких никогда не было. Судья спросил адвоката: «Вы где это взяли?» Адвокат: «В интернете». Судья: «Вы идиот?»
Цифра. По разным оценкам, от 5 до 25 процентов ответов ИИ содержат выдуманные факты. То есть каждый четвёртый ответ это враньё, упакованное в правдоподобную обёртку.
Стадия вторая. Лень думать. Если ИИ пишет код, зачем лезть в документацию? Если ИИ делает анализ рынка, зачем открывать годовые отчёты компаний? Мозг штука энергозатратная. Он всегда ищет, где сэкономить. ИИ даёт иллюзию экономии.
Через полгода такой экономии вы обнаруживаете, что сами уже не можете написать простой запрос без подсказки. Вы разучились думать. За вас думает машина. Только машине плевать на результат. Она просто перебирает слова.
Стадия третья. Кризис доверия. Когда таких, как вы, становится много, рушится рынок экспертизы. Как отличить настоящего специалиста от человека, который просто скормил ваш вопрос нейросети? Никак. Придётся тратить время на проверки, тесты, собеседования. Репутация обесценивается. Эксперт, который реально разбирается в теме, тратит полжизни на доказательство, что он не бот.
Сарказм. Раньше студенты покупали курсовые за деньги. Теперь они их генерируют за пять минут. Дипломы скоро будут выдавать с пометкой «проверено на детекторе ИИ». И это будет смешно, потому что детекторы ИИ тоже врут.
Что делает бритва Оккама
Бритва Оккама говорит: «Красивая упаковка не повод верить содержимому».
Правило. Любой факт от ИИ считается выдумкой, пока не подтверждён из двух источников, к которым ИИ не прикасался. Если подтвердить нельзя, используйте ответ как художественный текст, но не как руководство к действию.
И да, «мне так кажется» или «это выглядит логично» не считается подтверждением.
Кот в сапогах, который за нас
Кот в сапогах из сказки не верит на слово. Он проверяет, он ищет выгоду, он манипулирует обстоятельствами, но в итоге делает дело. В нашей голове это та часть, которая отвечает за самоконтроль. Которая говорит: «Стоп, давай подумаем».
Этот кот тихий. Его не слышно, когда хочется пожаловаться на жизнь. Там кричит Баюн. Его не слышно, когда хочется блеснуть умом. Там кричит Учёный. Но именно он держит бритву.
Что он делает
Первое. Ловит моменты, когда вас разводят на эмоции. Чувствуете умиление от ответа ИИ? Кот в сапогах должен чихнуть. «Это маркетинг, это просто слова, не ведись».
Второе. Ловит моменты, когда вас берут наукообразием. Видите красивый график и кучу терминов? Кот в сапогах должен дёрнуть за ус. «А где данные? А как проверяли? А можно то же самое, но простыми словами?»
Третье. Принимает решение. Не ИИ, не Баюн, не Учёный, а именно он. ИИ это инструмент. Кот в сапогах это хозяин инструмента.
Но и он может сломаться
У Кота в сапогах есть слабое место: он устаёт. Если вы целый день проверяете каждый чих ИИ, если вы не доверяете ни единому слову, если вы на взводе, рано или поздно он скажет: «Да пошло оно всё, верю на слово».
И тогда вы снова в лапах Баюна или Учёного.
Это самый главный риск. Усталость от контроля. Вы просто решаете, что проще довериться, чем проверять. И проигрываете.
Итог. Кто кого?
У вас внутри три кота. Один хочет, чтобы вы уснули в тепле. Второй хочет, чтобы вы думали, но думали его красивыми словами. Третий хочет, чтобы вы просто соображали сами.
Бритва Оккама это инструмент третьего. Она режет лишнее.
Что она отсекает?
От Баюна веру в то, что машина вас любит.
От Учёного веру в то, что красивый текст это правда.
От вас самих лень проверять.
Если бритва у Баюна, вы спите и видите сны, где ИИ ваш лучший друг.
Если бритва у Учёного, вы тонете в словах, принимая форму за содержание.
Если бритва у вас (или у Кота в сапогах, неважно), вы просто работаете с инструментом.
Итог простой. ИИ это здорово. Он экономит время, генерирует идеи, помогает не держать в голове кучу фактов. Но он не думает за вас. И никогда не будет. Потому что думать это понимать, что ты делаешь и зачем. А ИИ не понимает ничего. Он просто повторяет.
Бритва Оккама в мире ИИ звучит так.
«Не усложняй. Не приписывай машине человеческого. Проверяй. Думай сам».
Кто будет держать бритву, решать вам. Только учтите: первые два кота очень ласковые и очень убедительные. А третий молчаливый и часто уставший. Не дайте ему уснуть.