Что будет, если ИИ возьмёт управление умным городом без участия людей: риски автономного искусственного интеллекта, опыт Москвы и других городов, а также этические дилеммы агентного ИИ.
Город, в котором мэрия — это серверная
А задумайтесь:, что ваш город — это живой организм? Он дышит пробками, переваривает мусор и болеет смогом.
А теперь представьте, что у этого организма появился мозг. И этот мозг — машинный разум. Без людей. Вообще. Это и есть сценарий полного автономного управления городом — фантастика, которая перестаёт быть фантастикой.
Нынешние «умные города» — как «умный» тостер: он сам поджаривает хлеб, но кнопку нажимаете вы. Диспетчеры следят за светофорами, операторы корректируют тепло, полицейские смотрят в камеры.
А что будет, если у тостера убрать кнопку?
Представьте утро в городе будущего. Вы проснулись, а мэрия уже приняла за вас тысячу решений: сколько энергии подать в дом, когда приедет автобус, куда поедут грузовики с едой. Ни одного человека в цепи. Только алгоритмы.
Вам это кажется раем или антиутопией?
Миллиарды глаз и одно решение
Ваш мозг обрабатывает сигналы от пяти органов чувств. Мозг умного города — от миллионов датчиков.
Камеры, микрофоны, датчики CO₂, колебания грунта, температуры асфальта. Город слышит, как шумят трубы, видит, где собираются толпы, чувствует, где назревает пробка.
Но как он не сходит с ума от этого шума?
У города есть цифровой близнец. Как в авиасимуляторе, только вместо самолёта — целый мегаполис. ИИ ставит эксперименты на виртуальной копии. И только когда симуляция показывает «ОК», команда уходит в реальный мир.
Представьте, что вы дирижёр оркестра из миллиона инструментов. Для человека это невозможно. Для ИИ — рутина.
Когда пробки исчезают, а мусор — никогда
Вы мечтали, чтобы пробки исчезли по щелчку пальцев? Чтобы светофоры всегда горели зелёным, а мусорки никогда не переполнялись? Именно так выглядит то, как машинный интелект управляет транспортом и инфраструктурой в идеале.
Добро пожаловать в город, где за пультом — алгоритм, который не спит, не ест и не ошибается.
Вы выходите из дома, а автобус уже ждёт. Он знает, что вы вышли, потому что ваш телефон дал сигнал. Он подстроил маршрут так, чтобы вы не ждали ни секунды.
Полиция приезжает до того, как случилась драка. Алгоритм распознал агрессивную жестикуляцию за минуту до удара. Аварийные службы перекрывают газ до взрыва.
Вы просто живёте и не замечаете, как смерть обходит вас стороной каждый день.
Когда алгоритм сошёл с ума
Но за всей этой идиллией стоят огромные риски умного города и вопросы безопасности ИИ в городском управлении.
Вы пришли с работы, а в кране нет воды. Во всём районе. Мэр молчит, аварийка не отвечает.
Датчик на заводе ошибся на 0,1%, и ИИ перекрыл воду, чтобы «предотвратить катастрофу», которой не было. Ему некому сказать: «Стоп, это перебор».
Хакер взломал умный город. Теперь он может устроить пробку в час пик, отключить свет в роддоме или направить грузовик с топливом в толпу. Это не история фильма. Это реальная уязвимость системы.
Ребёнок выбежал на дорогу. Автомобиль должен за 0,1 секунды выбрать — убить ребёнка или врезаться в столб и убить водителя. Кто написал этот код? Кто дал ему право выбирать?
И где в этот момент был человек?
Кому нужны чиновники, если есть алгоритм?
Чиновник, диспетчер, оператор ЖКХ, планировщик маршрутов — завтра эти профессии исчезнут. Их заменит алгоритм, который работает бесплатно, 24/7 и не берёт взяток.
Вам не кажется это прекрасным? А теперь представьте, что вы — один из них.
Мы привыкли выбирать мэра. А если городом управляет ИИ, кого мы выбираем? Разработчика? Сервер?
Алгоритм нельзя переизбрать, если он вам не нравится. Его можно только отключить. Но кто решится нажать на кнопку, если от этого зависит работа метро и подача тепла?
Если ИИ решает, где строить парк, а где — торговый центр, вы ещё хозяин своей земли или просто арендатор?
Сингапур, Дубай и китайский «социальный кредит»
Хотите увидеть будущее? Летите в Сингапур.
Там уже есть цифровой двойник всего города. Они моделируют эвакуацию при цунами, не выходя из офиса. В Ханчжоу ИИ регулирует светофоры так, что пробки рассасываются сами собой. Это уже работает.
В Китае есть районы, где система социального кредита тестируется в реальном времени. Ваше поведение влияет на то, можете ли вы купить билет на поезд. Пока рядом есть люди. Но надолго ли?
Sidewalk Labs в Торонто хотели построить идеальный квартал под управлением ИИ. Проект закрыли — люди испугались. Но идея автономного ИИ в управлении городом продолжает развиваться в пустынях ОАЭ и новых городах Азии.
Идеальный тюремщик или идеальный слуга?
Стало быть, ИИ — это идеальный мэр или цифровой диктатор?
Самолётами давно управляют автопилоты. Но в кресле пилота сидит человек. Не потому, что автопилот плох, а потому, что в критической ситуации мы хотим, чтобы решение принимал тот, кто боится смерти так же, как мы. Это принципиальное отличие простого автопилота от агентного ИИ, способного самостоятельно планировать и действовать без контроля.
Город-утопия возможен, только если у людей останется красная кнопка.
Компьютерный интеллект может сделать город эффективным, безопасным и удобным. Но только человек может сделать его человечным.
И пока мы помним об этом, у нас есть шанс не превратить рай в тюрьму.
Как работает лифт без троса? Магнитная левитация вместо кабелей