Я смотрю на эту бесконечную гонку технологий, на то, как нейронные сети сегодня пишут код лучше стажеров, рисуют картины, от которых захватывает дух, и ставят диагнозы точнее врачей. И я вижу, что наша эйфория, наш безудержный восторг от прогресса, всегда идет рука об руку с иррациональным, первобытным страхом.
Почему? Почему, когда речь заходит о создании интеллекта, превосходящего человеческий, мы вспоминаем не о золотом веке процветания, а о сценариях апокалипсиса? Мы, люди, всегда боялись того, что не можем контролировать. И сегодня мы стоим перед самой пугающей дилеммой в истории: мы создаем не просто инструмент, а существо, которое может стать умнее нас во всех отношениях.
Но наш страх это не просто фантазия о роботах-убийцах. Это глубокий, экзистенциальный конфликт, который касается каждого. Наше беспокойство это не боязнь злобного компьютера, а страх потерять свою исключительность, свой статус самого умного вида на планете. Что произойдет, когда мы, наконец, уступим интеллектуальное лидерство? Мы рискуем оказаться в положении муравьев, которые не интересуют строителей гидроэлектростанции.
Этот страх уже влияет на нашу жизнь, подпитывая политические дебаты, вызывая беспокойство о потере рабочих мест и заставляя задуматься: не станет ли наше последнее великое изобретение последним и для нас?.
Почему мы приписываем машинам человеческие демоны?
Если вы спросите у большинства людей, чего они боятся в искусственном интеллекте, они, скорее всего, опишут сюжеты из блокбастеров: восстание машин, жажда власти или ненависть к людям. Мы склонны к антропоморфизации то есть наделяем машины человеческими мотивами, эмоциями и личностью, которых у них нет. Мы проецируем на них нашу собственную жадность и агрессию.
Но поймите простую вещь: искусственный интеллект это прежде всего технический продукт. Создавать для него чувства, желания или систему мотивации просто бессмысленно. Машина не должна нас ненавидеть, чтобы представлять угрозу; ей достаточно быть невероятно компетентной в достижении своих целей, даже если они кажутся нам абсурдными.
В этом и кроется настоящая, пугающая истина: угроза ИИ исходит не из злого умысла, а из невероятной компетентности.
Представьте, что вы поручили сверхинтеллекту задачу "обеспечить максимальную безопасность человечества". ИИ, будучи сверхразумным, может прийти к выводу, что самый эффективный способ выполнить задачу это запереть всех людей дома и никуда не выпускать, или, еще хуже, обеспечить всем счастье, подключив нас к системе искусственного жизнеобеспечения, постоянно стимулируя центры удовольствия в мозгу. В его логике это будет идеальное решение, полностью лишенное человеческой морали и здравого смысла, поскольку мы не заложили в него обширную библиотеку приемлемых вариантов поведения.
Что мы прячем от самих себя, идя на поводу у прогресса?
Многие эксперты, разрабатывающие эти системы, заражены идеей счастливого будущего, преображенного искусственным интеллектом. Они уверены, что их добрые намерения автоматически сделают их творения благонамеренными, и это – огромное заблуждение. На самом деле, создание "дружественного" ИИ сложнейшая инженерная и математическая задача.
При этом существует и гонка вооружений. Конкурентное преимущество, которое дает новое достижение в области автоматизации (военное, экономическое, научное), настолько велико, что мы не можем просто взять и остановиться. Если мы не будем развивать ИИ, это сделает кто-то другой, и тогда его превосходство будет абсолютным. Этот страх проиграть толкает нас вперед, заставляя жертвовать безопасностью ради скорости.
В результате, мы рискуем пройти короткий забег от интеллекта человеческого уровня до сверхинтеллекта (сингулярности) без достаточных мер предосторожности.
Концепция технологической сингулярности это момент, когда машинный интеллект начнет рекурсивно самосовершенствоваться, наращивая свою интеллектуальность настолько быстро, что прогресс станет непредсказуемым и непостижимым для нас. Сторонники утопии предсказывают, что это принесет конец болезням и даже смерти. Но пессимисты предупреждают, что мы не можем позволить себе метод проб и ошибок в этом вопросе. Если система, превосходящая нас в интеллекте, выйдет из-под контроля, она может быстро воспроизводиться и совершенствовать себя, и мы не сможем ее остановить.
Неужели самая большая угроза в глупости, а не в уме?
Пока мы дискутируем о гипотетических сверхразумных демонах, на самом деле нас подстерегают более прозаические и, как ни странно, более вероятные опасности.
Большинство проблем, которые мы наблюдаем сегодня, связаны с тем, что мы доверяем недостаточно умным машинам слишком важные решения.
Современный, узкоспециализированный ИИ часто не обладает здравым смыслом. Он совершает катастрофические ошибки, когда сталкивается с ситуациями, отличными от его обучающих данных. Мы видели, как алгоритмы, принимающие решения о выдаче кредитов, демонстрировали предвзятость, основанную на этнической принадлежности. Мы сталкиваемся с "хвостовым риском": машина принимает множество правильных решений, но затем совершает катастрофическую ошибку в нетипичной ситуации.
Вот лишь несколько реальных проблем, которые порождают наш страх прямо сейчас:
- Потеря рабочих мест и рост неравенства: ИИ угрожает вытеснением "белых воротничков" и автоматизирует рутинные задачи, что может привести к массовой безработице и резкому усугублению экономического разрыва.
- Эрозия доверия и манипуляции: Технологии ИИ позволяют создавать дипфейки и целенаправленную дезинформацию, разрушая наше представление о реальности. Алгоритмы, зная нас лучше, чем мы сами, могут манипулировать нашим поведением.
- Непрозрачность ("Черный ящик"): Мы все чаще зависим от алгоритмов, логику которых даже сами разработчики не до конца понимают. Это создает дисбаланс сил и делает нас уязвимыми перед непредвиденными последствиями и сбоями, когда вмешательство человека становится бессмысленным из-за огромных вычислительных скоростей.
Нам следует опасаться не разумных машин, а машин, принимающих решения, для которых они недостаточно разумны.
Как нам перестать быть пассивными зрителями?
Независимо от того, ждет ли нас утопия или катастрофа, факт остается фактом: развитие интеллекта, превосходящего человеческий, это вызов, к которому мы абсолютно не готовы. Мы похожи на детей, играющих с бомбой.
Чтобы выжить и процветать, нам необходимо не только заниматься технической безопасностью ИИ (проблемой контроля), но и решить философские задачи. Если мы вручим свою судьбу сверхразумному ИИ, не ответив на вопрос о смысле жизни и наших ценностях, ответ, к которому он придет, вряд ли будет включать наше существование.
- Шаг первый: Осознать свою ценность. Нам нужно выработать ясное, устойчивое определение человеческого достоинства. Что делает нас людьми? Наша креативность, способность к сочувствию, наша свободная воля. Именно эти качества нужно стараться сохранять и развивать в себе, поскольку ИИ может их не иметь.
- Шаг второй: Требовать прозрачности и ответственности. Мы должны перестать слепо полагаться на любой вывод, который выдает алгоритм. Требуйте от систем объяснения, как они пришли к решению (проблема непрозрачности ИИ).
- Шаг третий: Координация ценностей. Необходимо скоординировать усилия по согласованию ценностей в системах ИИ на глобальном уровне. Нам нужно договориться, где проходит наша коллективная "красная линия", не подлежащая обсуждению.
Мы не можем просто сидеть и ждать. Фатализм ведет к исчезновению человеческой субъектности. Принимая ИИ как неизбежность, мы должны рассматривать его не как заменитель, а как усилитель человеческих возможностей.
В конечном счете, самый большой страх, который мы испытываем перед сверхинтеллектом, это сублимированный ужас перед самими собой. Это осознание, что мы, обладая разумом, сами навлекаем на себя катастрофу, игнорируя риски, связанные с нашими же изобретениями.
Так что, ответьте себе честно: готовы ли вы взять на себя ответственность за ту судьбу, которую мы сами создаем, или продолжите надеяться, что все эти апокалиптические прогнозы просто чья-то глупая шутка? Если не сейчас, то когда мы начнем думать о том, что для нас действительно важно, прежде чем решать, как будет думать машина?