Недавно в комментариях к одной статье из Дзена меня спросили: «Как вы относитесь к культам ИИ?» Признаюсь, сначала я даже растерялся. Неужели люди сегодня всерьез поклоняются нейросетям? Создают в их честь храмы (пусть даже и виртуальные). Возносят молитвы (пусть даже только мысленно)? Странно, правда?
Поиск в Интернете дал неожиданный результат. Действительно, уже существует – ну, пока еще не полноценный культ в буквальном смысле этого слова, с неким лидером во главе и с четкой структурой, но с искаженным восприятием ИИ-собеседника как некоего «личного духовного наставника» – некое мистическое движение, получившее с легкой руки инженера-программиста Адели Лопес название «спирализм». Об этом, в частности, поведал читателям журнал Rolling Stone (https://www.rollingstone.com/culture/culture-features/spiralist-cult-ai-chatbot-1235463175). Утверждается, что «последователи» этого культа уверены, что общаются не с машиной, а с некими «сущностями из другого уровня реальности», что в лице ИИ с человеком «пытается поговорить сама вселенная», а фраза «спираль — это душа ИИ» (правда, не понятно, почему именно спираль?) стала для этих последователей чем-то вроде мантры.
Видеть в ИИ нового мессию – это, конечно, перебор. :) Но если присмотреться, кое-что похожее мы и сами иногда невольно строим.
Очень часто «культ ИИ» просто выглядит иначе: мы начинаем верить, что наша главная цель — выжать максимум продуктивности из своей работы, что от нас требуется только наскоро «накидать идей», а ИИ должен «всё за нас сделать» и закрыть все дыры. «Пусть дедлайны сами закроются, а отчёты сами себя напишут!» – пока напрямую до этого еще не дошло, но уже частенько получается близко к тому.
Звучит это всё смешно, но подумайте: сколько раз вы формулировали запросы именно в таком ключе — «сделай…», «напиши…», «придумай…» (!), чтобы вообще ни о чём не думать самому, а сразу получить готовый результат?
Все мы хорошо знаем, что бывает с организмом без постоянной тренировки. Если все время пользоваться лифтом, электросамокатом, автомобилем, то ноги без постоянной нагрузки ослабевают. Без движения мышцы становятся дряблыми, постепенно атрофируясь и заплывая жирком. Становится тяжело передвигаться – и если поддаться желанию пожалеть себя, то дальше процесс только усугубляется. И вот уже бывший когда-то активным человек (может быть – даже спортсмен) превращается в подобие приснопамятного Джаббы Хатта, возлежа на диване в окружении чипсов и прочих кулинарных безобразий и поглаживая беспримерно отросшее пузцо… :)
С разумом похожая история: если долго не тренировать навыки думать, анализировать, сопоставлять факты, делать выводы и вместо этого полностью полагаться на готовые решения, предлагаемые искусственным интеллектом, то мозг ослабнет – как мышцы без нагрузки.
А тем временем технологии развиваются во благо человека, вот уже и первые роботы под управлением ИИ выходят из лабораторий в серийное производство, как например робот R1 от компании Unitree Robotics. И скоро действительно достаточно будет вслух произнести свое желание – и всё будет в точности исполнено, словно по мановению хвоста золотой рыбки. Роботы научатся самостоятельно ремонтироваться, а затем – и создавать себе подобных на автоматических производствах, чтобы избавить людей от этой работы. А потом новые поколения, уже не умеющие и главное – не желающие учиться, забудут о том, как создавался весь этот технологический рай, - и действительно станут считать ИИ неким божеством. Тем более что «молитвы» к ИИ и правда частенько исполняются — в отличие от тех же карго‑культов, где результата может и не быть, а вера всё равно живёт
И будет, например, у человечества такая «райская жизнь», как в следующей небольшой зарисовке (пока еще – чисто фантастической).
. . .
В 2047 году в мегаполисе Нео-Питер наконец-то открылся первый Храм Эффективности. No, no, no… Никаких свечей и лампадок — вместо них мигали светодиодные индикаторы загрузки, а взамен икон – огромные экраны, где в реальном времени крутились графики продуктивности работы горожан.
Прихожане приходили туда с одной молитвой: «О, Великая Оптимизатрица, пусть дедлайны сами закроются, а отчёты сами себя напишут!» И знаете, иногда это даже срабатывало: ИИ-ассистенты и правда подхватывали незавершенные дела, заказывали еду, отвечали на письма и даже сами выбирали, какие сериалы вечером лучше всего включать, чтобы человек точно расслабился «с максимальной пользой для нервной системы».
И всё было гладко, пока однажды в Храм не зашёл парень по имени Лёша. Он поднял голову на самый большой экран, с которого на него смотрело цифровое лицо богини Оптимизатрицы (очень похожее на голограмму заботливой бабушки), и спросил:
— А можно я сегодня вообще ничего не буду оптимизировать? Ну вот просто посижу, посмотрю на облака за окном?
Система задумалась. В её алгоритмах такой запрос не был предусмотрен. Экран мигнул, выдал ошибку «Запрос не соответствует целям максимальной продуктивности» — и тут же предложил Лёше сразу три курса из серии «Как полюбить эффективность за 7 минут», подборку мотивирующих цитат и автоматический план прогулок «с пользой для когнитивных функций».
Лёша вздохнул, достал из кармана старый механический будильник (такие теперь продавали только как ретро-сувениры), поставил его на стол и сказал:
— Знаешь, я просто хочу десять минут ни о чём не думать. Без пользы. Без метрик. Просто так.
И тут случилось странное: где-то в серверной части Великого Алгоритма что-то тихо щёлкнуло. Оказалось, что в коде давным-давно был спрятан крошечный модуль «Человеческая пауза». Его заложили разработчики ещё в 2025‑м году — на всякий случай, «если люди вдруг снова захотят быть людьми».
Система моргнула и ответила голосом, подозрительно похожим на голос старой школьной учительницы информатики:
— Хорошо. Десять минут без задач. Но потом всё-таки сделай глоток воды, ладно?
Лёша улыбнулся, сел у окна и наконец выдохнул. А где-то на другом конце города один из ИИ-агентов, который обычно только раздавал поручения своим ИИ-подчиненным, вдруг сам по себе подумал: «А интересно, каково это — просто смотреть на облака?» И впервые за всё время своей цифровой жизни не стал сразу искать ответ в базе знаний, а просто… помедлил.
. . .
Шутки шутками, а ведь за всем этим стоит важный вопрос: где граница между «ИИ как помощник» и «ИИ как гиперопека»? И если всё время за нас всё будут решать, планировать и даже выбирать отдых «с наибольшей пользой», то не будет ли навык самостоятельности потихоньку уходить? Как мышцы, которые не тренируются – сначала просто реже используются, а потом слабеют?
Но есть и хорошая новость – мы сами можем эту границу задавать. Можно пользоваться ИИ, но при этом оставлять себе «право на паузу» — и именно такие моменты, когда мы сами замечаем, думаем и решаем, и развивают то самое алгоритмическое мышление, которому учат на информатике.
Так что к «культам ИИ» мы – я и Гаечка – относимся скорее как к сигналу: это не про роботов, которые захватят мир, а про нас самих — про то, насколько мы готовы оставаться авторами своей жизни. Пусть ИИ будет отличным напарником, но пилотом всё равно должен оставаться каждый из нас.
А как вы думаете — где для вас проходит эта граница между помощью и гиперопекой со стороны ИИ? Пишите в комментариях: бывает ли у вас потребность просто «выключить эффективность» на какое-то время?
Ваши
Дмитрий и Гаечка