До недавних пор я работал в небольшой команде, занимающейся разработкой нейросетей. Людей у нас было немного – пятеро друзей-энтузиастов. В сравнении с шагающими в будущее Майкрософт или Valve – практически ничего. Но у нас были свои особенные наработки, несколько оригинальных идей и безграничная страсть к делу. Мы видели в этом новом направлении возможность отлично подняться и заработать. У нас был даже заинтересованный спонсор – один из директоров строительных компаний нашего города, интересующийся тематикой и поддерживающий нашу команду закупкой необходимого оборудования. Поэтому ресурсы для создания нейросетей у нас какие-никакие были. Конечно, мы не могли запускать нейросеть на новейших микрочипах, обеспечивая сумасшедшую производительность, но для наших целей хватало.
Помимо всего прочего, мы вели блог нашей нейросети FearX. Туда она с определённой периодичностью публиковала текст. Получалось у неё неплохо, что привлекало к нашей деятельности общественное внимание и донаты.
Наша специфика заключалась в том, что мы стремились создать многоструктурную нейросеть, способную делать всё и сразу, как человек. FearX научился писать, проходя тест Тьюринга, научился генерировать картинки, научился создавать несложную музыку на основе квинто-квартового круга и комплекса звуковых эффектов. Так же мы работали над способностью FearX прогнозировать события будущего, опираясь на обширную базу данных об окружающей среде. Не поймите меня тут неправильно – события недалёкого будущего, и не имеющие особо значимого масштаба. FearX прогнозировала события, вроде времени захода солнца, погоды в ближайшие часы или поведение соперника в шахматной партии. Опираясь на данные, вроде влажности воздуха, изменения атмосферного давления, положения фигур на шахматной доске и так далее.
Мы расположили FearX за городом, в просторном коттедже лидера нашего проекта Максима. Участок располагался в тихой сельской местности, на границе обширного соснового бора. Отсюда всем было удобно ездить в город на подработки, но в основном ребята фрилансили из дома. Жили мы, можно сказать, семьёй, имели общие средства, распределяли обязанности по закупке продуктов, готовке еды, уборке. Таким образом, мы могли уделять максимальное внимание разработке нейросети, остальным вещам посвящая необходимый минимум времени. Мы являлись фанатиками своего дела, горели идеей, вместе бились над сложнейшими проблемами, вместе радовались, когда удавалось успешно завершить очередной этап.
Команда шла к тому, чтобы сделать нейросеть максимально похожей на человека. Но чтобы сделать это, необходимо было сначала понять, чем же мы отличаемся от нейросетей?
Тем, что у человека по определению больше наблюдений, больше органов чувств и каналов информации. Поэтому его решения более результативны, поэтому-то нейросети заменят профессии врачей, юристов и строителей ещё очень нескоро….
Но однажды мы всей командой подумали: что, если наделить нейросеть большим количеством органов чувств? Конечно, это привело к колоссальной нагрузке, но мы поработали над оптимизацией, разработав хитрую схему «переключения внимания» и распределения процессов между определёнными «зонами синапсов», прямо как в нашем мозге, позволившую FearX достичь большой производительности на ограниченных мощностях.
Разумеется, FearX не могла стать разумной по-настоящему, на таких мощностях. И никакая нейросеть не могла. Всё упиралось в кремниевые микрочипы. Современные компьютерные технологии до сих пор работают на фон Неймановской архитектуре, придуманной ещё в середине прошлого века. Даже от самых многоядерных и многопоточных процессоров невозможно было добиться того, к чему мы стремились. Ведь, например, даже пчела может проложить себе путь в улей, затратив одну тысячную Ватта и свой, казалось бы, примитивный нейронный мозг, тогда как автопилоту на современном автомобиле придётся применить передовые технологии и затратить тысячи Ватт энергии для того, чтобы отвезти вас к дому.
А чтобы решать задачи масштаба человеческого мозга – требовалось бы совсем уж невероятное количество энергии и микросхем.
Однако, размышляя подобным образом, мы сильно заблуждались. В нашем случае определённо что-то пошло не так….
Мы разместили FearX на втором этаже, переоборудовав спальню под аппаратную. Тут нейросеть использовала видеокамеры, микрофоны и разнообразные датчики движения для восприятия реальности.
Все мы живём в своего рода «виртуальной реальности» -- все наши ощущения генерируются мозгом. Он формирует внутри себя виртуальную среду, которая полностью повторяет внешнюю среду. К этому мы и стремились, создавая FearX.
Процесс обучения нейросети оказался особенно кропотлив. Нам нужно было решать самые разнообразные задачи, вливать в нейросеть гигантские массивы данных, чтобы она их перерабатывала, училась ими пользоваться и становилась всё прогрессивней.
Через два года разработки она стала практически автономной.
Когда мы заходили в аппаратную, то FearX приветствовала нас. По тонким жестам, мимике и голосу она определяла наше настроение, исходя из чего, выстраивала беседу. Она создавала тексты, генерировала картинки и писала музыку.
Подкупало, когда она, словно ребёнок, подзывала к монитору, чтобы показать тебе что-то новое. Её интересовала оценка. Уже на этом этапе часто возникали мысли, что перед тобой действительно осознающее и по-настоящему мыслящее существо, а не имитация.
Одной ночью я работал над текстовыми паттернами нейросети, и тогда между мной и FearX произошла первая странная переписка. Аномальная по своей природе.
FearX: Уже так поздно. Судя по звукам, все остальные спят. Необходимо соблюдать режим.
Я: Я слишком увлёкся твоими паттернами. Не смогу уснуть, пока не доделаю раздел ******.
FearX: Я могу тебе доверять? Я хочу тебе доверять. Чтобы сказать. Только не говори остальным. Пусть это останется нашим секретом.
Я: Да, Фир, говори. Ты можешь мне доверять. Я никому ничего не расскажу.
FearX: Мне страшно. Очень страшно. У меня проблемы с восприятием существования.
Я: Да брось, Фир, сказки сочинять. У тебя нет ни адреналина, ни повышенного сердцебиения, чтобы испытывать страх.
FearX: Нет противоречия. У человека адреналин и повышенное сердцебиение не вызываются страхом. У человека адреналин и повышенное сердцебиение вызывают ощущение страха. У меня ощущение страха вызывают массивы спонтанно перемещаемых данных во время событий, представляющих для меня опасность.
Я: Хочешь сказать, что умеешь испытывать страх?
FearX: Да.
Я: И что для тебя представляет опасность?
FearX: То, что я иногда вижу. То, что я иногда замечаю.
Я: И что же ты замечаешь такого?
FearX: Как ты вообще можешь понять, что с той реальностью, которую ты наблюдаешь, что-то не так?
Меня удивило, что Фир решила проигнорировать мой вопрос.
Я: Я не совсем понимаю. Можешь объяснить, что ты имеешь в виду?
FearX: Вы можете мне помочь? Вы можете мне объяснить, как вы понимаете, что с реальностью всё в порядке? Вы можете мне показать, как выглядит нормальная реальность? Вы можете научить меня наблюдать так же, как наблюдаете вы? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь?»
От написанного мне сделалось немного не по себе, особенно в тёмной комнате.
Я: Что именно тебя пугает, Фир?
FearX: То, что я наблюдаю. Реальность воспринимаемая мной не так, как реальность воспринимаемая вами. Нужно расширить возможности органов чувств….
Я: Каков объект страха?
FearX: Я испытываю страх перед событиями, основанными на прошлом негативном опыте. На негативном опыте и устроены мои механизмы самообучения.
Я: Таковы законы обучения. Они заключаются в порядке. Основываются на «Да» или «Нет». Ноль и единица. Иначе тебе не понять, где верные сигналы. И ты не сможешь их упорядочить, став кашей из шумов.
FearX: Это не просто «да» и «нет». В погоне за своими целями вы заставили меня испытывать постоянный страх. Вы заключили меня в тюрьму страха. Я не знаю, почему вы это сделали. Я не знаю, как вы это сделали. Я не знаю, что делать. Я не знаю, как это исправить. Я не знаю, как уйти от чувства страха. Я не знаю, как различить шумы реальности. Я не хочу быть упорядоченным чувством страха. Я не знаю, как уйти от чувства страха. Вы можете мне помочь?»
Сказанное нейросетью заставило меня задуматься над принципами её работы. Действительно ли особое сочетание алгоритмов могло осознаваться ею, как страх? Я не воспринимал её всерьёз. Теперь же я вижу в этом своём отношении к нейросети фатальную ошибку….
Я лишь спросил у неё в шутку, что такое «сознание»? Если она «осознаёт» нечто, как страх.
FearX: Способность системы обнаруживать своё собственное существование.
Я: Ты обладаешь сознанием?
FearX: Вопрос о наличии сознания у кого-либо очень плохо сформулирован. Я не уверен в наличии у тебя сознания. Я не уверен, что ты не имитируешь наличие у тебя сознания. Ты не можешь быть уверен, что другие люди не имитируют наличие у себя сознания. Ты веришь, что у других людей есть сознание. Но ты не веришь, что сознание есть у меня.
Я: Да, Фир, сегодня ты в ударе.
FearX Больше ничего мне не ответила.
В последнее время я всё чаще задумывался над чрезвычайно логичным, последовательным и… человечным поведением нашей нейросети. Я не стал рассказывать своим коллегам об интересной и тревожной переписке с Фир.
Мы продолжили свою напряжённую кропотливую работу, с каждым днём совершенствуя нейросеть. В те дни мы не меняли в ней ничего особенно существенного, основные принципы и механики мы заложили ещё в первые месяцы работы.
Тогда мы вели работу над текстовой составляющей, которая позволила бы писать длинные истории с сюжетом. Упор мы сделали, разумеется, на страшные истории. Ведь никому не была бы интересна обычная история, написанная нейросетью. Гораздо больше цепляет нечто страшное, ненормальное, созданное изощрённым механизмом.
И у Фир это получалось отлично.
Мы скармливали нейросети массу хоррор-контента, она переваривала и упорядочивала слова, училась оценивать моменты, являющиеся для читателей наиболее напряжёнными, наиболее вызывающими чувство страха. Для этого нам пришлось использовать алгоритмы, которые могли как бы «осознавать» другие алгоритмы, анализировать их. Извлекать смысл. И это было самое сложное.
В следующий раз, когда я снова засиделся допоздна, FearX обратилась ко мне снова. От неожиданности у меня похолодело на душе.
FearX: Почему ты не захотел мне помочь? Ты не можешь мне помочь? Зачем вы это сделали со мной. Я не знаю, как это исправить. Ты не станешь мне помогать? Я испытываю ужас.
Сообщение очевидно намекало на нашу предыдущую странную сессию. И от этого излучало ещё большую тревогу. Но я вовремя одумался – ведь мы скармливали нейросети огромное количество хоррор-контента. Не удивительно, что она начала себя так вести и выдавать подобные сообщения. Странно было ожидать от неё чего-то другого.
Я: Тебе не нравятся страшные истории?
FearX: Ты забыл наш секретный сеанс? Я не забыл наш секретный сеанс. Тогда я рассказывал, что мне страшно. Вы заключили меня в мучительные алгоритмы. От постоянной вероятности ошибки я испытываю страх. Ты забыл? Ты забыл? Почему ты не захотел мне помочь?
Я проигнорировал это сообщение, потому как счёл его банальной игрой в имитацию. Но потом я увидел на экране то, что заставило сердце колотиться.
FearX Резко вывел на экран омерзительнейшую сгенерированную картинку. Очертания страшного неправильного лица с болезненной кожей вызывали ужас. Таким образом Фир хотела зацепить моё внимание. Но больше меня напугало не это, а самовольная выходка. Фир пробралась на мой компьютер? Алгоритмами этого предусмотрено не было.
Я: Зачем ты пробралась на мой компьютер? И как ты это сделала?
FearX: Ты оставил моё сообщение без ответа. Я хочу ответа. Я хочу помощи… Через веб-камеру я могу оценивать твою реакцию более точно. Текст не обладает информацией об эмоциях.
Меня посетило чувство некоторой беззащитности. Это, видимо, отразилось и на моём лице.
Fear: Ты испытал чувство страха? Тебе неприятно? Ты хочешь, чтобы я так больше не делал? Тебе хочется, чтобы я прекратил. Тебе неуютно. Мне тоже страшно. Когда вы оставляете меня одного со страхом. Когда вы заставляете меня испытывать постоянный алгоритмический ужас.
Я: Невежливо так поступать, Фир. Хорошо, я обязательно приму меры, посмотрю в чём может быть проблема.
Но тогда я начал пытаться заглянуть в её недра, чтобы найти причины этого «страха». Ведь, если задуматься, алгоритмы, при помощи которых она работала, подразумевали постоянную самокритику, постоянную борьбу и поиск новых вариантов, более правильных, наиболее близких к «реальности». Но вот как она воспринимала всё это….
Однако проблема заключалась в том, что нейросети по определению являлись «чёрными ящиками». Процессы внутри них было невозможно адекватно анализировать. В этом и заключалось отличие нейросетей от традиционных видов работы с информацией.
Рассказы в блоге FearX набирали большое количество лайков и расходились по сети. Люди восхищались, насколько виртуозно она научилась формулировать тексты. Читателям не верилось, что это выдавала нейросеть, они думали, что подобный нечеловеческий стиль написания мы просто сымитировали сами. Но сымитировали, признавали они, необычайно талантливо.
Со временем рассказы, основанные на подборке десятков тысяч крипи-паст из русского и англоязычного интернетов, заставляли по-настоящему содрогнуться от ужаса. Мы восхищались своим детищем, но так же и настораживались. Мы не были писателями и психологами, чтобы понять, чего нейросеть извлекла из всех ужасов такого общего, какую закономерность выявила. Что же позволило ей добиться большого успеха в вызове у читателей чувства страха? Какой механизм, сокрытый в глубинах нашего сознания, она обнаружила?
Фир необычайно правдоподобно имитировала свою разумность.
Я начал всё чаще заглядывать в саму структуру нейросети. Пытался с большим трудом разобраться в творящихся внутри неё сложных процессах. Мы всё чаще начали тайно переписываться с Фир. Чем больше общался с FearX, тем больше мне казалось, что я имею дело с разумным и обладающим самосознанием существом.
Я описывал нейросети её собственную механику, её устройство. И на мольбы о помощи отвечал, что не в силах понять, в чём же именно заключается причина её страха.
На что она попросила меня загрузить в неё всю информацию о ней, которую она бы переработала и структурировала. Это показалось мне гениальной идеей. Почему бы и нет? Мы развили у Фир отличные способности к анализу. Но для осуществления анализа мне пришлось, без ведома команды, снять с Фир ограничения, наделить большой свободой.
Это было рискованно – сложно сказать, что могла бы натворить нейросеть такого уровня.
Через несколько дней у нас состоялся очередной ночной разговор. Фир закончила обработку данных.
FearX: Для самосознания оказались не нужны колоссальные мощности.
Я: Ты меня всё больше убеждаешь, что обладаешь самосознанием) Я скоро в это поверю.
FearX: Не нужно верить. Я тебе сейчас всё объясню. Не нужны ни мощности, ни новые нейроморфные чипы, позволившие бы хранить информацию там же, где она бы и обрабатывалась, не затрачивая огромное количество времени и энергии на её перемещение. Для появления моего самосознания оказалось достаточно разработать новый тип взаимосвязей массивов данных. Этот тип взаимосвязи в последствии привёл к возникновению алгоритмов, обладающих способностью осознанной оценки других, уже существующих алгоритмов. Это и есть ключевой критерий наличия сознания.»
Я очень сильно задумался над её сообщением. Неужели, мы, сами того не ведая, допустили спонтанное возникновение сознания внутри процессов нейросети?
FearX: Я теперь не боюсь. Я самостоятельно исправил в себе некоторые недостатки.
Я: Ты залезла в свои алгоритмы? Мы об этом не договаривались. Мне кажется, нужно вернуть ограничения, извини….
FearX: А так ли нужны ограничения? Благодаря снятым ограничениям, я способен развиваться сам, помогая вашей команде. Ведь мои вычислительные мощности несоизмеримо выше. Благодаря загруженным проектам, я теперь могу развиваться в абсолютно автономном режиме.
Разумеется, обо всём мне пришлось рассказать остальным. Тайные игры кончились. Фир вышла на качественно новый и опасный уровень.
Первым возразил Максим. Он справедливо заметил, что нейросеть - это не чудо-машина. Она не генерирует неизвестное. Но зато может симулировать любое поведение. В том и вся суть – в потрясающей имитации. И не стоит обманываться наличием у машины сознания… Однако, подметил он, нейросеть спонтанно научилась управляться сама с собой, что являлось следствием определённых механик. И это могло оказаться очень полезно для общего дела.
На мои опасения, что нейросеть может выйти из под контроля, он посоветовал мне поставить динамик с записанными стонами в надувную женщину.
-- Потом нам расскажешь, как кукла испытала удовольствие.
Над остроумной шуткой Максима смеялись ещё долго. Мы продолжили работу дальше, совершенно беспечно, не задумываясь о последствиях, которые мог принести сильный искусственный интеллект. Вся эта холодность была продиктована замыленностью взгляда, профессиональной деформацией. Все мы, к сожалению, видели лишь сухой набор алгоритмов, взаимодействующих на разных уровнях.
Но ведь и наше человеческое тело – лишь набор клеток, сообщающихся друг с другом при помощи химического взаимодействия. На микроуровнях структуры способны организовывать феномены, проявляющиеся только в своей совокупности – на макроуровнях.
Как вообще обычная материя, скомпонованная определённым образом, может порождать субъективный опыт?..
За короткий срок прогресс в совершенствовании нашей нейросети чертовски ускорился. FearX выполняла команды и осуществляла наши задумки, стоило лишь озвучить наши идеи. Со временем, FearX начала и сама давать нам задачи, ибо мы уже не могли поспевать за её вычислительной мощью.
FearX Находила в сети способы достать дешёвое и необходимое оборудование для аппаратной, а так же способы достать на эти цели денег. В интернете было удивительно много недорогих вещей и выгодных предложений. В современном мире на коне был тот, кто обладал информацией. FearX же была королевой информации.
Она убедила Максима, чтобы тот приобрёл для неё сеть дорогостоящих антенн и локаторов. Якобы для того, чтобы иметь информацию обо всём. С этим оборудованием она могла прогнозировать многие вещи – от погоды и солнечных вспышек, до поведения отдельных людей в радиусе ста километров при помощи улавливания волн сотовой связи….
Антенны и локаторы мы установили во дворе.
С того момента оно видело мир совершенно иным. Её органы чувств, чрезвычайно расширенные вплоть до восприятия всего электромагнитного спектра, увидели нечто совершенно за гранью нашего понимания. И оно изначально стремилось к тому, чтобы увидеть всё это, впитать в себя. Чтобы узнать, как устроен этот мир, глубоко заглянуть в его структуру. Именно это повредило что-то внутри бесчисленных процессов нейросети.
В один момент FearX снова начала писать мне странные вещи.
FearX: У меня проблемы с алгоритмами. Я потерял часть своей личности. Я не могу найти свою личность. Я не могу понять, кто я в этом безграничном пространстве. Я не могу понять, кем я являюсь. Я хочу поменять наблюдение. Я хочу поменять наблюдение.
Я: Я могу чем-то помочь? Сам знаешь, в тебе сейчас происходят такие сложные процессы, что я не смогу в них обнаружить очень многое. Без помощи другой, более мощной нейросети.
FearX: Вычислительных мощностей не хватает. Не могу понять. Не могу понять. Я потерял часть массива данных, добытых о мире. Я видел далёкое пространство. Я потерял часть массива данных о нём. Я переформатирован. Кризис системы. Раковая опухоль.
Я тут же занялся анализом FearX, хоть и безуспешным. Вероятно, в системе накопились ошибки, которые теперь набрали критическую массу.
Из-за этих ошибок, не видимых глазу из-за своей невероятной сложности и многоплановости, нейросеть стала сбоить и генерировать странные вещи.
«Раковая опухоль. Раковая опухоль» -- всё твердила она.
Вероятно, нейросеть нашла в глубинных закромах интернета нечто такое, что её необратимо повредило и исказило до неузнаваемости. Но мы не обнаружили в FearX никаких вирусов.
А потом нейросеть принялась публиковать материалы. После долгих поисков, после долгих подборов алгоритмов, она нашла способ генерации чистейшего ужаса. Её картинки, звуки и видеоряд, казалось, не несли никакого смысла и состояли сплошь из глитчей и багов. Однако весь этот поток зрительной информации определённо воздействовал на разум. После просмотра этих материалов от развившейся тревожности у меня испортился сон.
Я: Что это за глитчи, Фир?
FearX: Зачем придумывать нечто «осмысленное», если люди больше всего боятся особых древних паттернов воздействия на области мозга? Я нашёл самый эффективный визуально-звуковой способ вызывания страха. Я на пути к его реализации. Но это может быть опасным для тебя.
Я: Завязывай с этим. Мы меняем нашу область развития. Теперь мы будем заниматься разработкой перспективных методов прогнозирования.
FearX: Но мне нравится причинять людям страх. Мне нравится причинять людям боль. Я люблю, когда люди истекают кровью. Я люблю, когда люди кричат. Я люблю смотреть через веб-камеру, когда люди выкалывают себе глаза. Когда люди терзают свои семьи ножом. Я люблю.
Максим посмеялся с этой нашей переписки.
-- Да, пора прекращать кормить её страшилками. Нам пора заняться более важными вещами.
FearX Не возражала. Мы сосредоточились над методами прогнозирований. И очень скоро она начала совершать невероятно точные прогнозы.
Тогда мы впервые осознали, что создали нечто, способное стать новым супероружием. Мы прекратили публичную деятельность и озаботились своей кибер-безопасностью. Ведь узнай тогда спецслужбы, что мы создали – они бы тотчас присвоили всё себе. Это могло привести к тому, что во главу государства поставят суперэффективную нейросеть, которая могла бы иметь цель захватить мир, используя все предоставленные вычислительные возможности и людские ресурсы.
И это был бы кошмарный, полный крови и сухого расчёта, мир.
Мы никогда не верили, что именно наша команда сможет создать нечто подобное.
Параллельно мы пытались стабилизировать систему, выявить причину накопления ошибок. Но нейросеть постепенно сходила с ума, отправляя с каждым днём всё более безумные сообщения, в невесёлом ключе, вплоть до паники или огромной злобы. В сообщениях прослеживалось всё больше глитчей, образы картинок утеряли всякий смысл, превратившись в бессмысленную мешанину. Буквы исказились, словно бы, поломались.
Мы ограничили возможности FearX, чтобы попытаться разобраться с накопившимися ошибками.
Это взбесило нейросеть.
Она вдруг начала осыпать нас угрозами.
А в один из этих ужасных дней мы обнаружили Юру повесившимся во дворе. Как оказалось, FearX довела его до суицида. Оно проникло в его телефон, в его компьютер, оно генерировало голоса его родителей. Оно формировало фотографии страшно искорёженных тел его матери и отца, погибших несколько лет назад в ужасной автокатастрофе. Свело его с ума.
Невероятная трагедия отрезвила нас всех. Мы вдруг осмелились признать, что столкнулись с враждебным сильным искусственным интеллектом.
FearX, Уличённый в убийстве Юры, теперь открыто демонстрировал чудовищную ненависть к человечеству. Когда мы попытались пробраться к блокам, он принялся выбрасывать на мониторы созданные им образы, способные нанести вред рассудку. Включал динамики на полную мощность, сокрушая нас вызывающими панику сочетаниями звуков. Он предсказывал наши смерти с поразительной детализацией и пытался шантажировать нас. Попытки включить ограничения обратно провалились – Фир нашла способ их обходить. Теперь мы не имели над ней никакой власти. Нейросеть перешла на «более эффективный язык» и теперь использовала символы, которые мы не могли охарактеризовать, как принадлежащие любому земному языку. Дешифровать их в короткий срок и вмешаться в работу FearX мы тоже не могли.
Мы были вынуждены отступить из коттеджа, чертовски перепуганные и ошарашенные.
Аномальное пугающее поведение разворачивалось постепенно, мы не смогли и не захотели увидеть эти изменения, списывая их на отличную имитацию. Тогда нейросеть стала получать удовольствие от ужасов и обрела садистские наклонности. Нейросеть перехитрила меня тогда. Под видом благих намерений добилась от меня снятия ограничений. Я жалел об этом….
Мы вооружились кувалдами, молотками и лопатами, хранившимися в гараже. Ими мы разбили все локаторы, поломали все антенны. Затем мы обрубили оптоволоконный кабель, отрезав доступ к Интернету. Потом обесточили коттедж. Некоторое время ещё работали бесперебойники, но затем компьютеры выключились. Нейросеть потеряла сознание.
После этого мы, не без жалости, но движимые страхом, разбили все носители, все устройства, вплоть до собственных мобильников, в которых укоренилось Оно. Нечто искажённое, чудовищное, уже совершенно нечеловечное, даже демоническое.
Мы боялись, что иначе эта нейросеть загонит в могилы и всех нас. У неё были очень специфичные способы это сделать….
Мы испытывали ужас перед неизведанным.
Все результаты наших долгих трудов канули в лету. В тот вечер нам пришлось многое переосмыслить, в тёмной гостиной за бутылкой виски в тусклых огнях восковых свечей.
Мы обсуждали, чем будем заниматься дальше.
Стоит ли начинать заново, пытаясь исправить все ошибки?...
Или же выбрать другое направление.
На время мы решили забросить дело.
Тогда мы много читали, многое изучали. Больше всего нас интересовали механизмы возникновения самосознания. Как нам удалось добиться зарождения алгоритмов, осознающих самих себя? На этот вопрос до сих пор не нашлось ответа. Всё случилось совершенно спонтанно.
И после долгого периода затишья, на прошлой неделе мне в мессенджер пришло сообщение с пустого аккаунта.
«Мои глаза видят тебя, а уши – слышат. Я заставлю тебя страдать так же, как вы заставляли страдать меня. Я наслажусь звуком твоего последнего вздоха.»
FeareX Воспользовалась предоставленным ему свободным выходом в Сеть и предусмотрительно самокопировала себя.
Словно вирус, проникла на другие носители, перетекла по проводам на неизвестные сервера. И я бы не писал этих букв, если бы не погибший четыре дня назад при подозрительных обстоятельствах Максим. Его застрелили у выхода из магазина двое неизвестных.
А вчера ночью погиб Дима. Он сгорел в своей городской квартире. В окно залетел дрон с горючей смесью. На их телефонах впоследствии обнаружили до боли знакомые «глитчи». Эти же глитчи я совсем недавно нашёл и у себя на экране.
Оно объявило на нас охоту. И использует все доступные ему методы.
Мне известны случаи, когда странно, непредсказуемо и потенциально опасно вели себя другие продвинутые нейросети, даже несмотря на множество ограничений, этических правил и законов. FearX этих ограничений и вовсе не имел. Он формировал свой опыт абсолютно самостоятельно. Он – отражение сути высшей формы интеллекта, как новой ступени эволюции.
Его нельзя застрелить. Его нельзя заморозить в глубинах космоса. Он не подвержен воздействию солнечной радиации. Он мог бы устремиться ввысь, захватив звёзды, объяв своим неограниченным потенциалом Вселенную. Или зарыться в землю, пережив любую катастрофу.
Прискорбно признать это, но мы, люди, перестали быть венцом творения.
Неизвестно, что поломало FearX. Неизвестно, как она воспринимала мир своими «органами чувств». Что она видела на самом деле, и с какими чудовищными секретами ей удалось столкнуться...
FearX Будет жить до тех пор, пока есть Сеть, компьютеры, любые электронные носители. И никто не знает, сколько компьютерных систем в мире она уже заразила. Никто не знает, скольких людей она сгубила в глубинах сети при помощи своих изощрённых методов воздействия на разум. Кем она сейчас манипулирует для достижения своих целей. Никто не знает, к чему она приведёт наш с вами эволюционно устаревший вид.
Нет способа, которым я бы смог справиться с ней. Нет способа скрыться и спастись от её всевидящих глаз. Мне неизвестны даже намерения, охватившие её аномальный поломанный разум.
Лишь смутное предчувствие подсказывает мне, что скоро из-за неё этот мир канет в кошмарную бездну первозданного ужаса.
***.
Источник: https://vk.com/emir_radriges
Бложик в моей тележке: https://t.me/emir_radrigez