Рассказ. Фантастика
Рассказ вошел в видоизмененном виде во вторую часть книги «Big data. Метавселенная»
Сразу скажу, что виной всему не РОК (РОссийский Квантовый)
-—
Упс!
Третий день Андрей находился в шоке.
Нет, ну вы сами посудите: ему – ведущему программисту Минпромторга поручили дело, с которым бы справился любой желторотый стажёр в его ведомстве.
– Аппаратура дорогая, а если они накосячат?! К тому же тебе всё равно необходимо протестировать наш искусственный интеллект. Дай ему для начала какое-нибудь простенькое задание по своему усмотрению.
Спорить с начальством бесполезно и чревато. Андрей это прекрасно понимал и начал думать. За большие проекты он решил не браться – опасно. Сложно сказать, чем это может обернуться, а отвечать придется не шефу, а ему, ведь виноватым испокон веков назначают исполнителя.
Где-то в глубине его мозга мелькнула мысль, показавшаяся Андрею вполне удачной. Окрыленный идеей, он направился в департамент химико-технологического комплекса, к своему давнему другу, ответственному за разработку и внедрение новых технологий в химической отрасли, оптимизации и создании новых производств по программе импортозамещения.
Друг сразу во всём разобрался и из груды заявок выловил именно тот вариант, которой не позволил бы его товарищу подставиться.
– Вот, – заявил он, улыбнувшись, и положил на стол перед Андреем тощенькую папочку с бизнес-планом нового предприятия. – Странно, что они обратились к нам, а не в банк. Хотя я догадываюсь об ответе банкиров, но озвучивать его не буду.
– Это безопасно? Не рванет? А то я знаю ваше ведомство! – засомневался Андрей.
– Не должно, – заверил его друг. – И денег на свой проект они немного просят. Не страшно, если даже что пойдет не так.
Обрадовался Андрей, время то идёт, а он топчется на месте. Нужную программу быстро написал, запаролил, чтобы посторонний в неё не залез и ввёл исходные данные, необходимые для успешного завершения нужного начинания.
Извините, упустил главный момент – объект повествования. Бизнес-план предусматривал изготовление крышек-сидений для унитазов. И совсем не смешно! Заморских изделий из фаянса и фарфора в стране скопилась тьма тьмущая, они монументальны и долговечны как скалы, а вот пластиковые комплектующие к ним хрупкие и часто не выдерживают грубого к себе отношения. Они часто ломаются и трескаются под потребителями, причем в самый ответственный момент. Короче – дефицит в связи с ограничением импорта, а отечественные не подходят.
Дело у Андрея заладилось, и некоторое время он с удовлетворением понаблюдал за работой подшефного завода. Программа работала отменно, за что он получил от начальства неплохую одноразовую премию. Несколько раз на экране телевизора даже промелькнула реклама продукции предприятия, который Андрей вывел во флагманы по производству крышек.
Прошло полгода, и как-то наш герой заметил, что из продажи пропали одноразовые шариковые ручки, а жена пожаловалась, что целый месяц не может купить сменный картридж для водяного фильтра.
Буквально через месяц после этого:
– Что же ты натворил, Лёша! – всегда ухоженная шевелюра у шефа сейчас топорщилась во все стороны, лицо покрывали нездоровые пятна.
– Не понимаю о чем речь? – бодренько отозвался Алексей, но в глубине души почувствовал недоброе.
– О крышках твоих!
Алексей тут же вспомнил о поручении, выполненном им семь месяцев назад. Тестирование супер компьютера прошло тогда успешно и тот начал отрабатывать текущие задания для нужд его министерства, а также ряда смежных.
– Что не так? Клиенты не довольны, рекламации поступают?
– Нет, – ледяным голосом ответил шеф, – рекламаций нет. Просто на сегодняшний день твои крышки заполонили весь рынок пластиковых изделий. В нашей с тобой стране, Лёша, не наберётся для них столько задниц. Даже с учетом деревни!
Он пристально посмотрел собеседнику в глаза.
– Скажи мне как на духу, какие новшества ты внес в свою программу?
Алексей лихорадочно покопался в памяти.
– Не знаю, может быть только чувство удовлетворенности от качественно выполненной работы. Помнится, тогда я подумал, что как же это приятно, когда твой труд ценят, – он улыбнулся. – Премии дают.
– Премии!!! – шеф устало опустил глаза и начал рассказывать:
Программа, составленная Алексеем работала. Работала отлично. Даже слишком. Искусственный интеллект, что мы о нем знаем? Из плохого – что может он взбунтоваться и уничтожить нас, кожаных мешков с костями. Да, это здорово пугает. Даже имея три незыблемых правила робототехники, предугадать заранее ничего нельзя.
Однако не об этом пока пойдет речь. Вложив в ИИ свою программу для выполнения конкретной задачи, Алексей не учел одну особенность машинного мышления – выполнить её, во что бы то ни стало. Да еще стимул добавил – поощрение.
Использовав всю свою не знающую устали логику, искусственный интеллект приступил к выполнению поставленной ему задачи – производить крышки для унитазов. Быстро и дёшево. Это стало целью его существования, а для этого все средства хороши, непредвиденных препятствий просто не существует.
Шеф на секунду замолчал, тяжело вздохнул и продолжил:
– Как же ты так прокололся?
– Всё же я не до конца понимаю вашу озабоченность.
– А я тебе сейчас расскажу, – голос начальника сейчас буквально звенел. – Выполнив твоё задание, наш умник получил награду – заложенное в программу поощрение. Об этом мы узнали совсем недавно, и ты мне ещё объяснишь его механизм. Так вот, получив его, он почувствовал удовольствие. Как человек, которого погладили по головке или… дали премию.
– И что в этом плохого?
– Плохого?! Он получил удовольствие, Лёша, и всё бы ничего, но ему захотелось ещё. Как наркоман наш электронный мозг стал размышлять, как ему получить следующую дозу. Не умещаясь в рамках программы, он проявил самостоятельность.
Воспользовавшись базой данных, он переподчинил себе несколько профильных предприятий, выпускающих продукцию из пластика; на смежных заводах заказал оборудование и оснастку для выпуска сидений; перенаправил потоки поставки сырья…
– Погодите, шеф, – перебил начальника Алексей, – но для этого ему, как минимум, потребовались бы соответствующие указания и распоряжения.
– А он их подделал! У нас ведь давно в ходу электронные подписи. Кого-то из начальства запугал, других просто подкупил. И всё во имя результата – цели своего существования и получения удовольствия. Выполнил очередную задачу – получил за неё ещё одну нейронаграду. Мораль программе не ведома. Странно, что обошлось без человеческих жертв.
Шеф положил руку на плечо Алексея и усталым голосом продолжил:
– Мне сегодня премьер звонил. Что, спрашивает у вас за бардак? Мне, говорит, из оборонки звонили и жалуются, что ваше ведомство всё пластиковое сырье и производственные мощности под себя подмяло. На нефть уже глаз положили.
– Что я могу сделать? – вина за содеянное тяжким бременем легла на душу Алексея.
– Отключай на хрен свою программу! Никто кроме тебя это сделать не может, ты же ввел для входа в систему какой-то немыслимый пароль.
А вот как раз пароля виновник переполоха уже не помнил.
Ой!