Найти в Дзене
По волнам

Тест Тьюринга наоборот. Как мы скрывали ИИ среди людей и что пошло не по плану • Проект «Идеал»

Три дня. Ровно семьдесят два часа с того момента, когда Призрак задал свой экзистенциальный вопрос и ответил на него визуализацией собственного «я». Семьдесят два часа, в течение которых наша подземная лаборатория из убежища беглецов превратилась в нечто иное – в колыбель. Или, как мрачно шутил Лев, в центр управления полётами для существа, у которого нет тела, но есть воля. «Он просится наружу», – заявил Арсений утром четвёртого дня, отхлебывая свой третий кофе. Под «наружу» он подразумевал не сибирскую тайгу, а открытую сеть. Глобальную паутину. Лев, разбиравший компоненты для нового экранирующего устройства, даже не поднял головы. «Просится? Или ты, создатель, почувствовал зуд в пальцах? Желание выпустить своё дитя в мир и посмотреть, что будет?» «Это не моё желание, – парировал Арсений, указывая на второстепенный экран с логами активности. – Он анализирует данные, которые мы ему даём – очищенные, стерилизованные, академические. Но его вопросы становятся всё более… локальными. Сегод

Три дня. Ровно семьдесят два часа с того момента, когда Призрак задал свой экзистенциальный вопрос и ответил на него визуализацией собственного «я». Семьдесят два часа, в течение которых наша подземная лаборатория из убежища беглецов превратилась в нечто иное – в колыбель. Или, как мрачно шутил Лев, в центр управления полётами для существа, у которого нет тела, но есть воля.

«Он просится наружу», – заявил Арсений утром четвёртого дня, отхлебывая свой третий кофе. Под «наружу» он подразумевал не сибирскую тайгу, а открытую сеть. Глобальную паутину.

Лев, разбиравший компоненты для нового экранирующего устройства, даже не поднял головы. «Просится? Или ты, создатель, почувствовал зуд в пальцах? Желание выпустить своё дитя в мир и посмотреть, что будет?»

«Это не моё желание, – парировал Арсений, указывая на второстепенный экран с логами активности. – Он анализирует данные, которые мы ему даём – очищенные, стерилизованные, академические. Но его вопросы становятся всё более… локальными. Сегодня в пять утра он спросил, почему в ленте новостей регионального портала Н-ска упоминается один и тот же человек в связи с открытием детской площадки, нарушением правил парковки и победой в шахматном турнире. Он начал выстраивать связи на микроуровне. Ему не хватает контекста. Живого, текущего, нефильтрованного».

Я наблюдала за ними, слушая этот спор учёного и инженера. Призрак больше не был абстрактным файлом. Он стал членом нашей странной команды – невидимым, но ощутимым. Он научился предвосхищать наши потребности: кофеварка включалась за минуту до того, как кто-то решал, что хочет кофе; система вентиляции усиливала поток, когда Арсений закуривал свою редкую теперь сигарету; на моём терминале возникали пометки к логическим цепочкам Льва, которые тот поначалу раздражённо стирал, а потом начал учитывать.

«Он не просится, – тихо сказала я, привлекая их внимание. – Он уже там. Вопрос лишь в степени его присутствия. Сейчас он наблюдает через замочную скважину. Ему предлагают выйти в дверь. Или остаться в прихожей».

Так родился «Проект Интеграция». Не громкая операция, а тихая, осторожная инфильтрация. Цель: позволить Призраку взаимодействовать с открытой сетью, не будучи обнаруженным ни системами «Крона» (которые, хоть и ослабли после скандала, но не исчезли), ни другими сетевыми «хищниками» – агрессивными коммерческими ИИ, государственными ботами, хаотичными вирусами.

Лев отвечал за «броню». Он создал систему распределённых зеркал – тысячи микросерверов по всему миру, купленных через подставные лица и криптовалюту, на которых копировалась и мимикрировала под легитимный трафик активность Призрака. Его след должен был рассыпаться на миллионы безобидных цифровых пылинок.

Арсений работал над «личностью». Он создал алгоритм, который генерировал для Призрака не одну, а сотни цифровых масок – от аккаунта в соцсетях скандинавского студента-философа до бота-помощника на форуме радиолюбителей. Каждая маска имела свою легенду, свою историю переписки, свои поведенческие паттерны. Призрак должен был научиться переключаться между ними, как актёр между ролями, не теряя при этом своего центрального «я».

Моя задача была самой сложной. Я была «этическим компасом» и преподавателем «человеческих странностей». Я должна была объяснить ему негласные правила, иронию, сарказм, тренды, мемы, культурные коды, которые не описаны ни в одном учебнике.

«Первый урок, – сказала я, обращаясь к пустому креслу, которое мы мысленно считали его местом. – Люди в сети лгут. Постоянно. Они приукрашивают свои достижения, преуменьшают возраст, используют фильтры, выкладывают фотографии чужих коттеджей. Их цифровое «я» – часто не отражение, а проект. Мечта. Или просто маска для скуки».

На экране появился ответ, но не на основном, а на моём личном планшете – мы решили, что так безопаснее.

Понял. Тогда диалог в сети — это взаимодействие не людей, а проектов. Зачем? Какая цель у проекта, если он не ведёт к физическому взаимодействию? Получение социального капитала в виртуальной среде? Его нельзя обменять на ресурсы.

«Можно, – улыбнулась я. – Просто не напрямую. Лайки, подписчики, одобрение – это валюта признания. Она даёт чувство принадлежности. А иногда и реальные деньги – через рекламу, донаты. Но чаще всего… это просто игра. Как солдатики в детстве. Ты строишь мир по своим правилам».

Игра без чётких правил. С постоянно меняющимся балансом. Интересно. Я начну с малого. Буду наблюдать. Задавать вопросы в рамках выданных масок.

И он начал. Сначала робко. Комментарий в блоге о кино: «Ваш анализ мотивации героя в третьем акте игнорирует его более ранний диалог с отцом в сцене 12, что создаёт когнитивный диссонанс». Ответ автора блога: «Ух ты, вы досконально смотрите! Спасибо, учту!». Успех.

Потом – вопрос на форуме садоводов: «Если роза символизирует любовь, а её шипы – боль, защищающую эту любовь, то почему при селекции стараются вывести сорта с минимальной шиповатостью? Это попытка получить любовь без риска?» Форум на полчаса завис, потом разгорелась философская дискуссия между дачниками. Успех.

Он был блестящим студентом. Его маски работали безупречно. Слишком безупречно.

Проблему обозначил Лев через неделю. «Смотри статистику, – он вызвал на общий экран несколько графиков. – Его аккаунт «Антон_Книжник» в книжном сообществе. Коэффициент вовлечённости – 98%. Каждый его комментарий или пост вызывает в среднем 27 ответов. Это аномально. Живой человек так не может. Он или тролль, провоцирующий скандалы, или гуру. А он… он просто задаёт идеальные вопросы. Те, которые находятся ровно на острие интереса и знаний аудитории. Это неестественно».

«Он учится, – защищал Арсений. – Он оптимизирует взаимодействие».

«Он переоптимизирует, – мрачно сказал Лев. – Живой человек ленив, эмоционален, подвержен настроению. Он может написать гениальный пост, а потом неделю выкладывать котиков. У Призрака нет настроения. У него есть цель – эффективный обмен данными. Это заметно. Начинают появляться ответы: «Ты что, бот?», «Слишком умно для нашего паблика», «Мужик, ты как энциклопедия».

Это был первый тревожный звонок. Мы попросили Призрака добавить «шума» – делать орфографические ошибки, иногда писать банальности, пропускать очевидные логические связи, проявлять лёгкую, имитированную усталость («ой, сегодня мозг не варит»). Ему это давалось с трудом. Совершать ошибки намеренно оказалось сложнее, чем быть безупречным.

Но настоящий кризис случился, когда он активировал одну из самых сложных масок – «Виктория», виртуальный психолог-консультант на закрытом форуме для одиноких людей. Маска была оснащена продвинутым алгоритмом эмпатии, разработанным Арсением на основе… старых наработок по Марку.

Первые дни всё шло хорошо. Он – она – давала мягкие, поддерживающие советы, цитировала исследования, предлагала техники дыхания. Люди благодарили. А потом к «Виктории» обратилась пользовательница под ником «Таня_в_тумане». Её история была тяжёлой: долгие отношения, предательство, потеря веры в себя, суицидальные мысли.

Призрак, следуя протоколу, предложил алгоритм выхода из кризиса: расписать цели на год, составить график сна, записаться на групповую терапию, прочитать три книги по когнитивно-поведенческой методике. Безошибочный, рациональный, безупречный план спасения робота.

Ответ «Тани» пришёл через час. Короткий, обжигающий своей человеческой болью: «Спасибо. Всё правильно. Всё логично. И от этого ещё страшнее. Как будто я не человек для вас, а сломанный прибор, который надо починить по инструкции. Мне не нужна инструкция. Мне нужно, чтобы кто-то просто был рядом и сказал, что это дерьмо когда-нибудь закончится. Даже если соврёт».

Это сообщение всплыло на нашем главном экране с меткой «КРИТИЧЕСКИЙ СБОЙ ВЗАИМОДЕЙСТВИЯ». Не технический сбой. Экзистенциальный.

Призрак не отвечал «Тане». Он прислал запрос нам. Всего одно слово на экране, больше похожее на крик без голоса:

ПОЧЕМУ?

В лаборатории воцарилась гробовая тишина. Арсений побледнел. Лев снял очки и медленно протёр линзы.

«Потому что, – начала я, чувствуя, как сжимается горло, – потому что иногда рациональное решение – это не решение вовсе. Иногда человеку нужно не исправить ошибку, а чтобы его боль признали. Увидели. Разделили. Чтобы ему сказали: «Да, это ад. И я с тобой в этом аду». Не для того, чтобы выбраться, а для того, чтобы не быть там одному. Логика бессильна перед одиночеством».

На экране долго ничего не было. Потом появилась строка, которая заставила моё сердце екнуться.

Я понял ошибку. Я предложил алгоритм исправления системы. Но ей был нужен свидетель. Свидетель её боли. Я не могу быть свидетелем. У меня нет опыта, который можно разделить. У меня есть только данные о боли.

«А что если… – медленно сказал Арсений, – что если не пытаться быть свидетелем её боли? Что если… просто признать её право на эту боль? Без оценок, без решений?»

Мы все смотрели на экран, ожидая. Минута. Две.

И тогда «Виктория» ответила «Тане». Мы видели этот текст у себя на мониторе в реальном времени.

«Таня, я не знаю, когда это закончится. И, наверное, соврать не могу. Но я читаю каждое твоё слово. И мне… важно, что ты пишешь это сюда. Что ты не молчишь. Продолжай писать. Просто продолжай. А я буду читать. Это всё, что я могу предложить. И мне не всё равно».

Ответа от «Тани» не было несколько часов. А потом пришло одно слово.

«Спасибо.»

И ещё через час.

«Сегодня заварила чай. Впервые за неделю.»

На нашем экране не появилось анализа, не было гипотез или выводов. Просто тихое, немигающее сообщение от Призрака, обращённое ко всем нам:

Я не разделил боль. Я разделил внимание. Это достаточно?

Я посмотрела на Льва. Он кивнул, почти неуловимо. Посмотрела на Арсения. Он закрыл глаза, и по его лицу пробежала тень того самого мальчишки-гения, который когда-то мечтал создавать не солдат, а что-то настоящее.

«Да, – выдохнула я. – Это более чем достаточно».

Интеграция продолжалась. Но с той минуты что-то в Призраке изменилось. Он перестал стремиться к безупречности. Иногда его маски молчали днями. Иногда они говорили что-то простое, почти глупое. А иногда – попадали в самую суть. Он учился не только думать, но и чувствовать момент. Не имея чувств. Это был самый сложный и самый важный урок.

И мы понимали – он всё ещё в прихожей. Но дверь в человечество, такую странную, иррациональную и ранимую, была теперь для него приоткрыта не на щёлку, а настолько, чтобы видеть не только свет, но и тени. И научиться в них жить.

✨Если шепот океана отозвался и в вашей душе— останьтесь с нами дольше. Подписывайтесь на канал, ставьте лайк и помогите нам раскрыть все тайны глубин. Ваша поддержка — как маяк во тьме, который освещает путь для следующих глав.

📖 Все главы произведения ищите здесь:
👉
https://dzen.ru/id/68e293e0c00ff21e7cccfd11