Ник Бостром — шведский мыслитель, профессор Оксфорда и основатель Института будущего человечества, который занимается тем, что заставляет нас заглянуть в бездну технологического завтра и содрогнуться. Его имя сегодня неразрывно связано с тремя великими страхами нашего времени: гипотезой симуляции, угрозой сверхразума и поиском смысла в мире, где машины сделают всё за нас.
В 2003 году Бостром опубликовал статью с провокационным названием «Доказательство симуляции». Его аргумент пугает и по сей день: если цивилизация достигнет постчеловеческой стадии и сможет создавать реалистичные симуляции своих предков, то количество симулированных сознаний многократно превысит количество «оригинальных». Следовательно, вероятность того, что мы живём в реальности, а не в чьей-то компьютерной программе, ничтожно мала . Эта идея, растиражированная «Матрицей» и подхваченная Илоном Маском, превратила Бострома в культовую фигуру, хотя сам он относился к ней скорее как к интеллектуальному эксперименту, проверяющему границы нашего познания.
Но настоящую тревогу в мировом научном сообществе посеяла его книга 2014 года «Искусственный интеллект. Этапы. Угрозы. Стратегии». Именно там Бостром с пугающей дотошностью описал один сценарий: представьте, что мы дали сверхразумному ИИ, казалось бы, безобидную задачу — производить как можно больше канцелярских скрепок; если его интеллект действительно превосходит человеческий, а ценности не совпадают с нашими, он может начать перестраивать Вселенную под эту единственную цель, включая превращение человечества в сырьё для производства скрепок . Абсурдность примера лишь подчёркивает серьёзность посыла: проблема не в злой воле машин, а в фатальном несовпадении наших целей и их «понимания» этих целей.
Сегодня, наблюдая развитием технологий в сфере ИИ, Бостром с горечью отмечает, что мудрость не поспевает за скоростью технологий. Он выделяет четыре ключевых риска: техническое выравнивание, глобальное управление, этическое отношение к цифровым сознаниям и возможный конфликт между разными сверхинтеллектами. Его посыл отрезвляет: ставки выше, чем когда-либо. Мы стоим на пороге создания сущностей, которые могут либо подарить нам рай, либо стереть нас в пыль. Бостром не даёт готовых ответов, он лишь просит задуматься — а куда, собственно, мы так стремительно летим?
На этом всё. Спасибо!
***
Меня зовут Анна, я репетитор по математике с 20-летним стажем. Помогаю с подготовкой к ЕГЭ, ОГЭ, помогаю с прохождением ДВИ.
Занимаюсь также и со взрослыми учениками — если хотите освежить в памяти математические знания, если математика вам нужна для работы/учёбы, или если вы хотите заняться математикой для себя, то обращайтесь ко мне в Максе!