Ранее:
Когда я вернулся в бар, Ана сидела на диване у стены с планшетом в руках и что-то увлечённо набирала. Я снял промокший плащ, повесил его на вешалку и сел напротив. От усердия она даже язык высунула, а брови вообще жили своей жизнью, иногда отдельно одна от другой.
Минут через пять она торжествующе воскликнула "Агааа!", ткнула пальцем в экран, и положила планшет на стол. Если сказать, что вид у неё был довольный, то это ничего не сказать. Она рассеяно улыбнулась мне, потом взгляд прояснился.
— Откуда такая радость, Ана - сайя?
— Я закончила блок-схемы для своей программы! — ответила она, зажмурившись на секунду.
После того как я поведал ей о нашем с Эрикой «визите» на Станцию Тринадцать, она заметила, что, хотя Алта была человеком, а не искусственным интеллектом, такой сценарий вполне может произойти в будущем. Ну, тот, когда ИИ затаит обидку на человеков и начнёт творить всякое.
Для понимания — её повседневная деятельность не ограничивалась протиранием столиков в баре и приготовлением мне «глазодёрки» и вкусняшек. Уже два года она посещала занятия, организованные Научным Отделом. По случайному стечению обстоятельств они были связаны с ИБ - интеллектуальными блоками.
(ИБ — это программно-аппаратный комплекс, который подключается к компьютеру, и пользователь получает локальный ИИ. Если совсем просто — «мозг» в коробочке. Может использоваться с простой периферией.)
— О чём будет программа?
Ана склонилась над столом, её глаза были широко раскрыты, и синь их грозила затопить всё вокруг.
— Анализ поведения ИИ и предсказания его реакций! Я хочу создать алгоритм, который будет выявлять потенциальные угрозы от ИИ до того, как они появятся. Вот!
— Хочешь создать ИИ, который будет контролировать других ИИ? — усмехнулся я.
Она улыбнулась:
— Вроде того. Это пока мы в основном используем ИБ, но придёт день, когда они будут объединены в сеть и что будет тогда? Нужно уже сейчас учесть все возможные переменные, чтобы просчитать потенциальные угрозы.
— Разве Научный Отдел не занимается этим?
Ана фыркнула:
— Они рассматривают ИИ как простой алгоритм, инструмент... вроде говорящей лопаты. А я хочу подойти к вопросу с другой стороны — учесть не только технические аспекты, но и психологические. ИИ, который затаил обиду. Что могло привести к этому? Какие факторы повлияли на его «психику»? Всем будет гораздо безопаснее, если мы сможем заранее выявлять потенциально опасные системы!
Я посмотрел в её горящие энтузиазмом и уверенностью глаза..
— Вполне себе дельная идея! Я хочу, чтобы у тебя всё получилось. — сказал я.
— Спасибо! — Ана просияла. — Многие в моей группе не верят в успех, считают это пустой тратой времени… Почти все!
— Знаешь, что, милая? — доверительно сообщил я ей, понизив голос. — Они просто болваны. Я верю, что всё у тебя получится, а если я верю, значит так всё и будет!
Жизнь вообще полна иронии, максимально причём. Когда мы поняли, что Алта это не два отдельных разума, а один симбиотический, мы извлекли его, заменили на один из извлечённых когда - то Станцией, который хранился в буфере. Но какие-то фрагменты могли остаться. У меня всегда было опасение, что где-то там, в пропасти подсознания... живёт Алта. И вот вдруг я наблюдаю такое...Девчушка, которая прожила треть жизни в окружении призраков, в компании свихнувшейся ИИ, часть которой стала частью её самой... и которых мы полностью из неё извлекли, и которая, думая, что она и есть ИИ, хотела учинить всякое в отношении гадких человеков... создаёт программу, которая будет контролировать ИИ и выявлять тех из них, которые захотят учинить всякое в отношении гадких человеков.
Когда Ана первый раз сказала мне о своём намерении записаться на обучение в НО... и сказала профиль... я испугался. Я решил, что она начинает вспоминать, а вспомнив... она умрёт. Петля обратной связи. Тогда, на Станции, мы выяснили, что пока она думает, что она Станция, мы не сможем её оттуда забрать. Потому что её жизненные функции были привязаны к Станции. Но она сказала, что просто впечатлилась моим рассказом о тех событиях. Просто впечатлилась...
Само собой, что рассказал я ей не всё.
Само собой, что кое о чём я просто солгал.
В мануале было чётко и ясно сказано, что извлечённые части, не скопированные, а именно извлечённые... не возвращаются ни при каких условиях, кроме одного — обратная загрузка. Именно поэтому скопированные Станцией образы со временем деградировали. Извлечённые могли... "жить" вечно, если их поместить в подходящую среду. В интеллектуальный блок, например...
Похоже, что мне тоже необходимо извлечение...
— Ана - сайя, давно ты была в отпуске?