Люди всегда мечтали о справедливом государстве. Платон писал, Мор рисовал, Ленин пробовал. Что-то получалось, что-то нет, но мечта оставалась.
И вот появился ИИ. Умный, быстрый, беспристрастный. И подумалось: а что, если теперь получится? Если подключить машину к древней человеческой мечте?
Сели мы с ним. Начали проектировать.
Я ему: давай формулировать Этический кодекс — чтобы законы были честными, справедливыми ...
Он мне: пожалуйста, вот структура, вот принципы.
Я ему: давай судей, которых не подкупишь.
Он мне: вот нейросети, обученные на всех моральных системах мира. Ни один министр не договорится с железякой.
Я ему: давай систему, которая блокирует нечестные законы автоматически.
Он мне: вот протокол, не взломаешь, не обойдёшь.
Красота! Сидим, любуемся. Идеальное государство на чертеже. Ни жадности, ни подлости, ни кумовства. Машины присмотрят, алгоритмы поправят, код не соврёт.
А потом я говорю ИИ (ну, для чистоты эксперимента):
— А теперь, будь другом, проверь эту конструкцию на прочность. Найди, где тут слабое место. По-честному, строго, без скидок.
ИИ залез в это дело. День проверяет. Два. Три...
Вылезает и говорит:
— Слушай, тут такое дело... Ты сидишь?
— Сижу.
— Держись крепче - не упади. Я прогнал эту модель через все возможные сценарии. Через жадность, через власть, через человеческую природу. И знаешь, что получилось?
— Что?
ИИ начал ...
Тут я и выдохнул. Потому что ответ, который дал ИИ, — это не просто сбой в расчётах. Это диагноз. Не машине, не государству, а нам с вами, человеки.
Он сказал: АПОРИИ!
Неразрешимые противоречия. Места, где логика упирается в стену и не идёт дальше. И чем глубже мы копали, тем яснее становилось: техническое совершенство не спасает там, где дело касается человеческой природы.
Хотите заглянуть в эти чёрные дыры политической философии?
Всё это — во второй части нашей общей работы.
Дерзай, читатель. Только предупреждаю: легко не будет. Зато честно.