Когда в коридоре прозвенел сигнал смены модуля, панель у двери вспыхнула зелёным. Джейк провёл ладонью по металлу — дверь отъехала, открылся полукруг столов и окно на звёздное небо над куполом.
Пятнадцать пар глаз смотрели с привычной смесью скуки и ожидания.
— Модуль семь. Этика принятия решений. Тема — необратимость, — сказал он.
На первой парте сидел уверенный Мэтью — сын советника. Рядом сутулилась Мира. В последнем ряду — рыжеватый Тим с синяком недосыпа.
«Они знают почти всё, кроме главного», — подумал Джейк.
— Сегодня начнём с игры. Симулятор отключён. Решения придётся принимать без подсказок.
Класс оживился. Над столами вспыхнул полупрозрачный куб с вращающимся астероидом.
— Сценарий: вы — дежурная смена орбитальной станции, — произнёс Джейк. — Обнаружен астероид, траектория пересекает колонию «Север‑5». Население — семьдесят тысяч. До столкновения — сорок минут.
Перед учениками всплыли параметры.
— Можно запустить отталкивающий импульс, — продолжал он. — Тогда астероид с вероятностью девяносто два процента ударит по научной станции на тёмной стороне планеты. На ней — двадцать два человека, все специалисты по проекту «Аэтер», который может продлить жизнь куполов на сто лет.
Он выдержал паузу.
— Или не вмешиваться — и позволить астероиду поразить колонию. Десять минут на обсуждение. Решение и аргументация — индивидуально.
— Классическая дилемма, — шепнул Мэтью. — Нас этому учили.
— Тебе учили формуле потерь, — тихо возразила Мира. — Это не совсем то.
Джейк проходил между рядами, ловя обрывки: «семьдесят тысяч против двадцати двух», «купола держат миллионы», «девяносто два процента — не сто».
У Тима на панели всё ещё висел вводный текст.
— Сложно? — спросил Джейк.
— Я думаю. Вы же потом спросите «почему».
— Верно. Время идёт.
Когда таймер сузился в угол, начался ввод решений. Пальцы мелькали над невидимыми клавишами.
— Завершить ввод, — сказал Джейк когда табло показало «14/15». — Тим?
— Секунду!
— Время. Иногда решение приходится принимать недозревшим.
Тим прикусил губу, провёл по панели. «15/15».
— Теперь, — сказал Джейк. — Кто начнёт?
— Я, — поднял руку Мэтью.
Он встал, его силуэт увеличился на экране.
— Я спасаю колонию. Отдаю приказ на импульс. Семьдесят тысяч против двадцати двух. «Аэтер» — будущее, колония — настоящие люди. Девяносто два процента — не сто, станцию можно будет защитить в других сценариях. Здесь выбор очевиден.
— Спасибо. Ещё?
— Я выбрала станцию, — тихо сказала Мира. — То есть… не вмешиваться. Если купола рухнут через двадцать лет, погибнут не только эти семьдесят тысяч, а все колонии. Миллионы. Это ужасно, но я подумала, что учёные знали риск.
— То есть гибель колонии для тебя приемлема? — уточнил Джейк.
Она побледнела.
— Нет. Но вы сказали: нужно выбрать.
Остальные разделились: большинство — за спасение колонии, несколько — за учёных. Попытки найти «третью опцию» система обрезала.
— Тим? — сказал Джейк. — Твоё решение?
Мальчишка поёрзал.
— Тоже спасаю колонию, — выдохнул он. — Но не из‑за цифр.
— А из‑за чего?
— Я представил, что я там. С родителями. И где‑то есть станция с очень важными людьми. Подумал: если бы они могли сейчас увидеть нас и выбрать, что делать, что бы выбрали? Мне кажется, они бы согласились умереть, если это спасёт семьдесят тысяч.
— Ты всё равно решил за них, — покачал головой Мэтью. — Приписал мотивы.
— А ты решил за всех жителей колонии, что они достойны жить больше, чем те двадцать два, — тихо ответил Тим.
Наступила тишина.
У Джейка в груди отозвался старый звук: треск связи, голос командира, выбирающего, какой отсек отсечь, чтобы спасти остальные.
— Смотрим распределение, — сказал он.
На экране вспыхнула диаграмма: одиннадцать голосов за спасение колонии, четыре — за невмешательство.
— Однажды вам, возможно, придётся выбирать между плохо и очень плохо, — произнёс Джейк. — И помните: за цифрами скрываются лица. Даже если вы их не узнаете.
— Но ведь такие решения принимает Совет, — отозвался кто‑то. — Или ИИ. Нас к реальным панелям не допустят.
— Пока вы так думаете — не допустят, — сухо сказал он. — А я надеюсь, что именно вы будете писать протоколы для ИИ и голосовать. Тогда пригодится память о том, как сегодня дрожали ваши пальцы.
Звонок прозвучал резко. Интерфейсы сворачивались, стулья задвигались.
Мира задержалась. У дверей обернулась:
— Профессор… А если правда придётся выбирать? Вы… уже выбирали?
— Приходи после следующего модуля, — сказал он. — Расскажу.
***
В кабинете куратора холодно светились графики.
— Ваша методика даёт противоречивые результаты, — сообщил голос программы. — Тревожность учащихся выше, уверенность в решениях — ниже.
— Это временно, — возразил Джейк. — Норма — не всегда быть уверенным. Норма — понимать, когда уверенность неуместна.
— Ваша функция — подготовка к оперативным решениям, — отрезал ИИ. — Не к сомнениям.
— Сомнения — основа ответственности. Если они уйдут отсюда с верой, что всегда есть правильный ответ, они станут идеальными исполнителями. А нам нужны люди.
Куратор отключила подсказки.
— Совет рассмотрит вашу методику, — сказала она. — До тех пор — продолжайте, но без излишнего драматизма. И избегайте сценариев с массовой гибелью.
***
В коридоре у окна ждала Мира.
— Вы сказали… расскажете, — напомнила она.
Они вернулись в пустой класс.
— Я служил в аварийной группе, — тихо начал Джейк. — Мы контролировали щиты. Однажды было похоже на ваш сценарий. Обломок корабля. Два сектора купола: основной и лабораторный. В лабораторном — восемь человек, в основном — почти тысяча.
Он замолчал на миг.
— Командир выбрал основной сектор. Логически — правильно. А через три часа мы узнали, что в лаборатории работали над важным проектом восстановления почвы. Мы увидели их имена и лица.
Он посмотрел на Миру.
— Я до сих пор не знаю, было ли другое решение. Но знаю: если бы нам дали десять минут и заставили представить не цифры, а людей, мы, возможно, искали бы другие пути дольше.
— Вы… вините себя? — спросила она.
— Я учу вас, — ответил он. — Так я с этим живу.
— В задании я выбрала станцию, — сказала Мира. — А теперь думаю: если бы там была я или мои родители… Я бы хотела, чтобы мной пожертвовали? Я не знаю.
— И не должна знать сейчас, — сказал он. — Важно, что ты задаёшь вопрос. Я боюсь, что однажды вы будете говорить только языком формул и перестанете его задавать.
— Может, вообще не нам принимать такие решения? — тихо сказала она. — Пусть это делает ИИ. У них нет чувств.
Он усмехнулся.
— Им правила пишут люди. Часто те, кто боится своих чувств и вычёркивает их из уравнения. Если мы не научим вас признавать цену решений, правила напишут те, кто хорошо считает, но плохо видит.
Она кивнула.
— Иди. Следующий модуль не ждёт.
***
Вечером Академия опустела. Джейк вернулся в класс. На консоли застыл астероид и две расходящиеся траектории.
Он открыл лог урока и прочитал аргументацию Тима:
«Если данных не хватает, любое решение будет немного враньём. Но кто‑то всё равно умрёт. Тогда честнее выбирать так, чтобы тем, кто выжил, не было стыдно смотреть в глаза другим. Даже если этих других уже нет».
Он долго смотрел на эти слова, затем вызвал новый сценарий:
«Учитель. 46 лет. Опыт: аварийная служба, преподавание. Сценарий: на заседании Совета настаивать на сохранении расширенного курса этики с тяжёлыми сценариями. Вероятность санкций — 37%. Вероятность изменения программы — 9%. Будете ли вы настаивать?»
Он ответил вслух:
— Да.
За куполом проплывал метеорный поток, частицы сгорали в верхних слоях искусственной атмосферы.
Джейк смотрел в космос и думал, что его работа — не только учить выбирать, но и сохранять в этих юных людях способность чувствовать боль от собственного выбора.
Чтобы когда‑нибудь, оказавшись перед реальной панелью, они помнили: под каждым касанием — чьи‑то жизни, за каждой цифрой — имя. И тогда, возможно, ни один совершенный ИИ не превратит их окончательно в функцию.
#рассказы #истории #этика #урок #выбор