Откуда берется липкий страх перед ИИ? Разбираю по косточкам
Умная колонка подмигнула синим зрачком, когда я слишком громко сказала мужу:
— А ведь они нас всех заменят.
В ответ лишь звонкая тишина, а потом песня «Я свободен». Я вздрогнула, опрокинула чай и выдернула штекер из розетки. Искра щёлкнула по пальцам. Стою посреди кухни, а под рёбрами шевелится тёплый, мохнатый клубок тревоги. Знакомый.
Признаюсь: мне сорок три, но когда робот-пылесос с грохотом врезается в ножку стула, по коже ползёт что-то липкое, как забытый холодец. И я не одна. Подруга Ленка прислала голосовое: «Я GPT про крем написала, а теперь мне везде косметолог! Следит, что ли?»
Почему мы, взрослые люди, видим в алгоритме зловещий разум? В подкорке засел красный глаз HAL 9000 из кино. (Вымышленный компьютер с искусственным интеллектом, главный антагонист в фильме Стэнли Кубрика «2001: Космическая одиссея».) Нас приучили бояться. Но реальный HAL сегодня это автозамена в телефоне, исправляющая «файл» на «факап», или пылесос, бесконечно сосущий штору.
Лучшая метафора, которая вернула мне спокойствие: нейросеть не мыслитель. Это огромный попугай с идеальной памятью, но без капли понимания.
Он выучил все словари, но не знает вкуса пролитого чая. Поэтому с невозмутимым видом выдаст рецепт торта с солёными огурцами. Думать за него должны мы.
Нейросети не захватят мир, ведь у них нет желаний. Но почему тогда сердце ёкает от рассылки «Персональная скидка для вас»? Если это просто попугай, кто плетёт эту липкую паутину ощущений? Разберёмся дальше.
Где у попугая кнопка «выкл», и почему он всё-таки пригодился на кухне
Муж застал меня сидящей перед открытым ноутбуком и гипнотизирующей пустую строку письма. Клиент в третий раз просил «чуть подробнее про условия», а мой мозг издавал звук закипающего чайника.
— Спроси у своей железной подружки», — бросил муж, не отрываясь от телефона. И я сдалась.
Написала в окошко нейросети: «Придумай вежливый ответ клиенту, который спрашивает про скидку. Я уставшая, но добрая фея. Без канцелярита». Через три секунды на экране возник текст. Там было слово «сожалеем» и фраза «в рамках текущей рыночной конъюнктуры». Попугай, как всегда, натаскал красивых перьев из чужих гнёзд. Я стёрла половину, оставила костяк, добавила человеческое «давайте попробуем договориться». Отправила. Клиент ответил смайликом.
Вот вам и правда про нейросети.
Что они не могут. Не могут почувствовать, что собеседник сегодня без настроения, понять, что слово «конъюнктура» вызывает у людей нервный тик, и уж точно не могут взять на себя ответственность за финальную фразу. Это как дать ребёнку конструктор: детали он подберёт, но строить дом вам.
Что могут. Могут снять с вас слой самой нудной рутины. План ужина на неделю. Гречка уже снилась в кошмарах? Пожалуйста. Черновик поста для соцсетей про фиалки? Держите. Страх перед ИИ тает, когда перестаёшь ждать от него чуда и начинаешь использовать как калькулятор для слов.
Остаётся главный вопрос: почему тогда при виде рекламы, угадавшей мои мысли, внутри всё равно что-то ёкает? Если нейросети это просто попугай, то кто научил его подглядывать в замочную скважину?
Паук в углу комнаты. Или почему мы всё равно вздрагиваем
Я потеряла зарядное от умной кружки. Да, той самой, что поддерживает ровно 55 градусов и мигает зелёным, когда я — о ужас — пью недостаточно горячий чай. Первые полдня рука сама тянулась к телефону проверить температуру. Фантомная вибрация где-то под кожей. А потом вдруг тишина. Я налила кипяток в обычную керамическую кружку, обожгла пальцы, подула, отхлебнула. Чай остыл, мир не рухнул. Но самое странное в том, что исчезло какое-то фоновое жужжание в голове. Будто невидимый паук перестал плести свою липкую паутину из уведомлений и рекомендаций.
Вот он, главный трюк. Мы боимся не нейросетей как таковых. Мы боимся этой паутины. Алгоритм это не злой гений, а капельница с дофамином, которая подключена прямо к мозгу. Лайк, скидка, «вы смотрели это — посмотрите ещё». Тёплое, мягкое одеяло, которое вдруг начинает душить. ИИ тут ни при чём. Это мы сами, как мотыльки, летим на синий свет экрана. Попугай всего лишь повторяет наши желания, усиливая их эхом.
Но знаете, что я поняла? Паутину можно разорвать. Не героически, не навсегда. А просто дёрнуть за одну ниточку. Выключить уведомления у пары приложений. Оставить телефон в коридоре на ночь. Попить из обычной кружки. Технологии, которые пугали, вдруг становятся просто фоном. Как холодильник. Гудит, но не лезет в душу.
Осталось решить, что делать с колонкой, из-за которой всё началось? Включать обратно или пусть пылится немым укором?
Я включила её обратно. И знаете что?
Я воткнула вилку в розетку. Колонка моргнула синим. Но теперь это был просто цвет, а не зрачок врага. Попросила ее поставить мне джаз. Поставила. Никто не зашептал угроз, не предложил оформить кредит. Просто музыка.
Тёплый, мохнатый клубок под рёбрами улёгся и замурчал. Страх перед нейросетями никуда не делся, он теперь просто лежит на диване, листая ленту, пока я живу свою жизнь. И это, пожалуй, лучшая сделка, которую я могла заключить с будущим. Попугай пусть болтает. Думаю я сама.
••• ——— •••
А как у вас? Есть дома умная штуковина, на которую вы до сих пор коситесь с подозрением? Или, может, уже подружились с нейросетями и они вам борщ варят? Расскажите в комментариях, только честно, без прикрас. Очень интересно, кто ещё в нашем тихом клубе «техно-параноиков».
Если было полезно и стало хоть чуть-чуть спокойнее, поставьте лайк и подпишитесь. Дальше буду разбирать другие страхи нашего цифрового века. Без занудства и с чаем. ☕