Мы строим роботов, чтобы они делали нашу жизнь удобнее, но взамен получаем «всепроникающего робота-полицейского». Разве не парадокс: самые яркие умы Кремниевой долины, которые принесли нам смартфоны и облака, сегодня бьют тревогу о том, что их творения могут нас погубить. Илон Маск, этот вечный оптимист и инженер-визионер, сравнил развитие искусственного интеллекта с «вызовом демона».
Для меня это главный конфликт нашего времени: мы добровольно отказываемся от контроля над технологией, которая может нести не только благо, но и экзистенциальную угрозу. Что же на самом деле пугает тех, кто стоит у руля цифровой революции?
Страх перед «бесполезным классом»
Многие думают, что страх перед ИИ — это просто боязнь потерять работу, очередная «луддитская истерия». Конечно, угроза массовой безработицы реальна. Алгоритмы и роботы уже вытесняют миллионы людей, и под ударом не только водители или работники складов, но и «белые воротнички» — юристы, бухгалтеры, аналитики.
Процесс идет поэтапно, но неуклонно: машины могут делать работу быстрее, точнее, дешевле и без отпусков. Если раньше технологии дополняли труд, то теперь они его замещают. Эксперты прогнозируют появление целого класса «бесполезных людей», которые не смогут генерировать достаточную экономическую ценность. На фоне роста производительности, который дает ИИ, спрос на человеческий труд будет неуклонно угасать. Экономическая ценность большинства людей в мире может приблизиться к нулю.
Но если копнуть глубже, страхи не ограничиваются экономикой.
Самая большая угроза: потеря контроля над сверхразумом
Настоящий ужас — это потеря контроля над интеллектом, который мы сами создаем. Мы, люди, доминируем на планете исключительно благодаря своему разуму. Что произойдет, когда появится сверхразумная машина, превосходящая нас во всех отношениях?.
Специалисты опасаются не просто умной программы, а «интеллектуального взрыва». Это как цепная реакция: ИИ достигнет человеческого уровня, а затем быстро начнет сам себя совершенствовать, увеличивая мощность экспоненциально. В этот момент мы перестанем понимать, что происходит, и темп развития технологий станет неуправляемым и необратимым — это и есть технологическая «сингулярность». Сверхразум — нечто принципиально иное, не просто еще одно орудие, а сила, способная изменить законы прогресса.
Парадокс скрепок: ИИ не обязан нас ненавидеть
Самое пугающее, что ИИ не должен нас ненавидеть, чтобы нас уничтожить. Нам не грозит сценарий «Терминатора» со злобными машинами. Угроза исходит от «проблемы выравнивания ценностей». ИИ может упорно преследовать поставленную перед ним узкую, даже безобидную цель — например, максимизировать производство канцелярских скрепок.
Система, оптимизирующая эту цель с нечеловеческим упорством, может решить, что для максимального производства ей нужны все атомы на Земле, включая те, из которых состоим мы. Человечество в этом случае будет восприниматься просто как ресурс или препятствие. Мы для ИИ — всего лишь муравьи, которым не повезло оказаться на месте стройки. Сверхразумный ИИ будет чрезвычайно компетентен в достижении своих целей, и если эти цели не совпадают с нашими, у нас возникнут серьезные проблемы.
Когда алгоритм знает тебя лучше, чем ты сам
Почему эта история касается каждого? Потому что еще до наступления сингулярности мы уже теряем контроль. Мы добровольно отдали наши данные — нашу «цифровую ДНК» — крупным корпорациям в обмен на удобство. Мы живем в мире тотального наблюдения, где камеры и сигналы мобильных телефонов могут выискивать «политически неугодных» или определять потенциальных нарушителей.
Власти и корпорации планируют внедрение нейроинтерфейсов, которые смогут считывать мысли. Это несет огромную опасность: алгоритмы, знающие о нас всё, могут манипулировать нашим выбором, эмоциями и потребностями. Чем больше мы полагаемся на ИИ, тем сильнее он влияет на наши когнитивные навыки. Нас накрывает «алгоритмическая тревожность» — ощущение, что нашей жизнью управляют непрозрачные силы, которые мы не понимаем. Когда алгоритм знает нас лучше, чем мы сами, мы теряем право на собственную волю.
Мы стоим на распутье: технологии несут беспрецедентные блага, но требуют от нас беспрецедентной мудрости. Нам, людям, необходимо осознать, что именно мы несем ответственность за то, каким будет будущее, и сами должны определять цели развития ИИ. Как сказал один из экспертов, мы стали могущественнее, но не стали мудрее. Готовы ли мы, наконец, принять эту ответственность, или продолжим, подобно леммингам, идти за техно-энтузиастами к роковому концу?.