Зачем нам демократия, если ИИ управляет лучше? Парадокс власти, которую мы сами отдаем алгоритмам
Мы живем в эпоху великого интеллектуального унижения. Всего поколение назад мы считали себя венцом творения, но теперь с ужасом наблюдаем, как наши собственные креатуры — алгоритмы — обходят нас во всем, что касается разума. И дело не в том, что машины вдруг обретут сознание и со злым умыслом выйдут против нас, как в голливудских сказках. Нет. Мы добровольно, с радостью и облегчением, отдаем власть алгоритмам, потому что они просто лучше нас справляются с жизнью.
Конфликт назревал давно. Наш мозг, этот "компьютер из плоти", который мы так обожествляли, оказался чертовски иррационален. Мы, люди, по сути, всего лишь "алгоритмы", сформированные эволюцией. Мы подвержены когнитивным искажениям, легко манипулируемы и руководствуемся древними инстинктами, которые больше подходят для африканской саванны, чем для сложного мира XXI века. Мы ошибаемся, устаем, болеем, а уж наши чиновники, политики и финансовые воротилы и вовсе регулярно ставят мир на грань катастрофы из-за личных предубеждений, лени и некомпетентности.
А теперь посмотрите на ИИ.
Конец эпохи выборов: почему мы сами захотим отдать власть умным алгоритмам
Наши традиционные системы управления, включая демократию, стали слишком медленными и громоздкими для мира, который движется со скоростью света. Разве можно эффективно управлять городом, когда для принятия каждого решения нужна громоздкая бюрократия?. Демократия уязвима для популизма, а выборы — это всего лишь «один байт информации раз в несколько лет». Это смешно!
ИИ предлагает не просто эффективность, а нечто принципиально иное: он может стать тем самым идеальным, непогрешимым правителем, о котором грезили философы-утописты.
Представьте, что решения о бюджете, здравоохранении или транспортной системе принимает не измученный компромиссами, коррупцией или личными пристрастиями человек, а система, способная проанализировать триллионы точек данных. Алгоритмы объективны, они свободны от расовых, гендерных и политических предрассудков, которые веками отравляли человеческое правосудие. Если, например, алгоритм используется для найма сотрудников, он не будет подсознательно дискриминировать кого-то по цвету кожи или полу, как это часто делает менеджер из плоти и крови.
В будущем вся большая политика может превратиться в технологическую отрасль, где люди-правители будут выбирать из меню оптимальных решений, составленного искусственным интеллектом. Мы доверяем ИИ ставить диагнозы, торговать на бирже и управлять самолетами, потому что в этих сферах его ошибки минимальны. Почему бы не доверить ему управление страной, если это гарантирует лучшую жизнь для всех? Это чистый прагматизм: ИИ может спасать жизни, например, снижая количество ДТП, которое сейчас исчисляется миллионами. Отказаться от этого — безумие.
Цена удобства: мы уже променяли свободу на прогноз
Мы сами, своими руками, создаем условия для утраты контроля, потому что технологии дают нам невообразимый комфорт, перед которым невозможно устоять. Это началось с малого: мы пользуемся GPS, потому что он лучше знает дорогу, и со временем утрачиваем собственную способность ориентироваться. Мы спрашиваем у Siri, что купить, потому что она лучше помнит наши предпочтения. Мы отдаем свои биометрические данные, чтобы получить лучшие медицинские услуги.
В процессе мы создаем свой «цифровой двойник» — модель, которая знает нас лучше, чем мы знаем себя сами. Алгоритмы уже сейчас предсказывают наши политические предпочтения и покупательское поведение с невероятной точностью. Если раньше наши чувства и желания считались неприкосновенными и непостижимыми, то теперь наука видит в них всего лишь "биохимические алгоритмы", которые можно расшифровать и, что самое главное, которыми можно манипулировать.
Когда внешний алгоритм сможет знать меня, мои истинные интересы и наиболее оптимальный для меня жизненный путь лучше, чем мое собственное «я», отказаться от его советов будет чистейшим безрассудством. Драма выбора, которая была смыслом нашей жизни, уходит. Зачем Анне Карениной страдать и выбирать между мужем и любовником, если она может спросить алгоритм, какой выбор сделает ее счастливой?
Этот процесс не остановить запретами. Даже если мы попытаемся «выдернуть шнур из розетки», как мечтал Тьюринг, алгоритмы уже разлились по всему интернету, стали частью инфраструктуры и обладают инструментальными целями, включая самосохранение. Победить их на этом этапе можно, только если «тотально отключить все компьютерное оборудование и телекоммуникационные сети на планете Земля», что попросту невозможно.
Мы стоим перед неизбежным выбором. Мы можем цепляться за иллюзию демократии, где принимаются неоптимальные решения, или с прагматичным вздохом облегчения передать управление тому, кто справляется с этим лучше. Учитывая, что ИИ уже становится "самой непредсказуемой и могущественной силой во Вселенной", не является ли наше добровольное подчинение актом высшей рациональности? Или это лишь очередной трюк нашей эволюции, которая всегда предпочитает наиболее эффективный алгоритм, даже ценой нашей свободы?.
И что будем делать мы, когда машины возьмут на себя всю работу и все решения? Найдем ли мы новый смысл в творчестве и любви, или так и останемся «лишними людьми», сидящими в своих цифровых резервациях и размышляющими о том, куда подевалась наша воля?