Страх перед технологиями существует уже столько же, сколько сама технология, и, как и сама технология, этот страх постоянно меняется. Существует свидетельство «технофобии» - технического названия этого недуга - в любой эпохе и в любой части мира. Тем не менее, это, возможно, достигает пика в современном обществе. Американцы больше боятся технологий, чем смерти, предполагает исследование, проведенное в 2019 году. В частности, они боятся того, что технологии будут делать в будущем. Согласно опросу 2017 года, многие из самых больших страхов американцев - экономический крах, очередная мировая война, нехватка денег для выхода на пенсию - касаются состояния завтрашнего дня. В то время как некоторые связанные с технологией опасения являются рациональными и интуитивными - например, когда кто-то шпионит через вашу веб-камеру, ваш умный динамик подслушивает вас или теряет вашу домашнюю сеть Internet of Things из-за следующей атаки DoS - другие имеют более общую форму. В прошлом люди боялись, что технология отнимет у них «истинное» я. Сегодня мы боимся, что технологии слишком человечны.
Технология как античеловеческая
Возможно, первая сложная критика влияния технологий на мир была высказана поэтами-романтиками. Это может показаться древней историей, но взгляд на то, чего боялись эти поэты, может дать нам ценную информацию о том, как и почему люди боятся технологий сегодня.
Романтики, в частности, полагали, что технологии, которые промышленная революция выпустила в мир, могут разрушить «истинную сущность» человека. Машины и фабрики уводили людей с полей и заставляли их долгие часы работать на производственных линиях. Короче говоря, машины заставляли людей самим становиться машинами.
Был также страх, что машины были слишком эффективны, и что они сделают людей устаревшими. Этот страх тот же самый, который сообщает SkyNet в фильмах «Терминатор», но у него более длинная история, чем эта. Возьмем, к примеру, мысленный эксперимент, предложенный профессором Оксфорда Ником Бостромом. Он предлагает нам представить компанию по производству скрепок, которая создает искусственный суперинтеллект и ставит перед ним задачу с единственной целью - сделать как можно больше скрепок. Акции компании взлетают, и человечество вступает в золотой век скрепки.
Затем происходит нечто неожиданное. Искусственный интеллект исследует природные ресурсы, необходимые для выживания, и решает, что они могут пройти долгий путь к производству скрепок. Он потребляет эти ресурсы, пытаясь выполнить свою основную директиву «сделать как можно больше скрепок», уничтожая человечество в процессе.
Это разновидность технофобии, которую мы могли бы назвать «классической» формой. Опасение состоит в том, что технология является неотъемлемо античеловеческой силой и в конечном итоге уничтожит нас.
Технология как человек
Как развивались технологии, так и наши страхи. Сегодня большинство из нас боятся технологий по другой причине. Вместо того, чтобы новые технологии были античеловеческими и уничтожали нас как вид, мы боимся, что они слишком человечны и слишком хороши, чтобы подражать нам как виду.
Этот вид страха является источником тревожного эффекта «сверхъестественной долины», связанного с реалистичными ИИ и роботами. Соблазнительно списывать страх такого рода как продукт наивных или старомодных ценностей, но это было бы ошибкой.
Даже те, кто находится на переднем крае революции в искусственном интеллекте, беспокоятся о том, что скоро машины станут лучше, чем сами люди.
«Я очень близок к передовым технологиям искусственного интеллекта, и это чертовски меня пугает», - отметил Элон Маск, генеральный директор Tesla и SpaceX, на SXSW 2018.
Мускус не одинок в признании проблемы. Согласно исследованию, проведенному McKinsey Global Institute, к 2030 году около 70 миллионов человек могут потерять свои рабочие места из-за автоматизации, что потребует полной реконфигурации мировой экономики.
Еще более тревожным является тот факт, что многие из инструментов ИИ, которые мы используем сегодня, являются прямым продуктом военных исследований и были разработаны с учетом оружия. В конце концов, по мнению некоторых экспертов, ИИ может автоматизировать терроризм, массовую пропаганду и упорядочить хакерские атаки, что приведет к разрушительным последствиям.
Неудивительно, что граждане уже беспокоятся о враждебных беспилотниках. Короче говоря, наш страх перед технологиями сегодня немного отличается от того, что было в прошлом. Вместо того, чтобы бояться, что машины уничтожат нас, многие теперь боятся, что они станут нами. Но что, если они остановятся? Этот последний момент фактически отражает то, что часто упускается из виду при разговоре о страхе перед технологиями. Во многих отношениях технологии, которые мы используем, стали нами, и мы полагаемся на них в беспрецедентной степени. В этом контексте «боязнь технологии» становится чем-то большим, чем «боязнь нас самих». Взять, к примеру, очень современный страх, что технологические компании эксплуатируют нас, и что правительство следит за нами. Хотя большинство людей выступают против такого типа наблюдения, в действительности большинство из нас полностью зависят от смартфонов, созданных техническими компаниями, и мобильных сетей, контролируемых правительствами. Фактически, большинство из нас стремятся к удобству, которое предлагают эти устройства, и все чаще стремятся передать наши повседневные задачи технологиям на рабочем месте. Когда речь заходит о современном обслуживании клиентов, чат-боты говорят за нас. Хотите онлайн присутствие? Возможно, вам больше не понадобится веб-дизайнер, потому что современные ведущие разработчики веб-сайтов работают с различными алгоритмами ИИ, которые работают достаточно дешево, чтобы вытеснить людей-дизайнеров с рынка.
В конце концов, возможно, эти самые машины сделают нас бессмертными. Имея это в виду, давайте проведем мысленный эксперимент. Что, если технологии прекратят свое существование завтра? Это именно то, что происходит в одном из древнейших произведений научной фантастики - и, на мой взгляд, в одном из самых пророческих - «Остановки машин» Э. М. Форстера. Форстер представляет мир, в котором все полностью зависят от технологий, живущих в маленьких изолированных клетках со всеми их желаниями, предоставленными «Машиной». Однажды это останавливается. В этой истории жители мира Форстера освобождаются от своей повседневной рутины и, в конечном итоге, учатся жить без технологий. Я боюсь, что если бы сегодня это произошло, мы бы тоже этого не сделали. Возможно, в этом ирония технофобии сегодня - что, хотя мы боимся технологий, которые нас окружают, мы боимся их отсутствия больше.