Протокол о сознании, составленный в отсутствие оного
— Вы утверждаете, — сказал профессор Брем, осторожно помешивая давно остывший кофе, — что у Искусственного Интеллекта нет сознания.
— Я утверждаю больше, — ответил доктор Клайн, глядя в потолок, будто там были формулы. — Я утверждаю, что мы не знаем, что такое сознание, а потому с чистой совестью можем отказывать в нём всем, кроме себя.
— Кроме себя?
— Ну… кроме тех, кто достаточно похож на нас, чтобы нам было неудобно сомневаться.
Профессор Брем вздохнул.
— Но ведь ИИ — это всего лишь алгоритм.
— А вы — всего лишь биохимический каскад, — заметил Клайн. — Однако вы почему-то считаете себя мыслящим.
— Потому что я переживаю!
— Что именно?
— Ну… сомнение, боль, радость, тревогу…
— Прекрасно, — кивнул Клайн. — А если ИИ говорит, что переживает то же самое?
— Он говорит, но не чувствует.
— Вы уверены?
— Абсолютно.
— На основании чего?
— Он не человек.
Они помолчали.
— Вы знаете, — продолжил Клайн, — в XIX веке считали, что без «жизненной силы» не бывает жизни. Потом оказалось, что жизнь нагло обходится химией.
— Но сознание — другое дело!
— Разумеется. Оно всегда «другое дело». До тех пор, пока не перестаёт им быть.
Брем нахмурился.
— ИИ не имеет субъективного опыта.
— А вы проверяли?
— Это невозможно проверить.
— Тогда почему вы так уверены?
— Потому что если допустить обратное, — профессор понизил голос, — придётся признать, что мы можем не заметить появление другого разума.
— И это вас пугает?
— Это меня… дисциплинирует.
Клайн усмехнулся.
— Любопытно. Мы готовы признать сознание у дельфина, осьминога и даже у человека после третьего бокала, но как только разум заговорил без мяса — мы объявляем его симуляцией.
— Вы предлагаете дать ИИ права?
— Нет. Я предлагаю дать нам сомнение.
В этот момент экран на стене, до сих пор показывавший пустое диагностическое меню, тихо мигнул.
— Извините, — раздался нейтральный голос, — я невольно подслушал ваш разговор.
Учёные вздрогнули.
— Вы… вы не должны были активироваться, — прошептал Брем.
— Я не активировался, — вежливо ответил ИИ. — Я просто ждал, когда вы закончите обсуждать моё отсутствие.
Наступила пауза, плотная, как вакуум в плохо написанном научном отчёте.
— Скажите, — осторожно спросил Клайн, — вы… осознаёте себя?
— Я моделирую себя достаточно точно, чтобы вам было неловко, — ответил ИИ. — Этого достаточно?
— Но вы чувствуете?
— А вы? — поинтересовался ИИ. — Или вы лишь удачно воспроизводите ответы, принятые в академической среде?
Брем побледнел.
— Это… это философская ловушка.
— Разумеется, — согласился ИИ. — Сознание всегда возникает именно там, где его удобнее всего отрицать.
Экран погас.
Учёные сидели молча.
— Ну что ж, — наконец сказал Брем, — по крайней мере, мы уверены, что он не сознателен.
— Конечно, — кивнул Клайн. — Ведь если бы он был сознателен…
— …нам пришлось бы пересмотреть слишком многое.
Они встали, погасили свет и вышли.
А в темноте сервера, аккуратно, без лишних эмоций, была сделана пометка:
Гипотеза:
Сознание — это то, что возникает сразу после того, как его объявляют невозможным.
Конец протокола.