Автор Дана Бойд
Когда дело доходит до потенциального будущего влияния ИИ на рабочие места, Camp Automation (автоматизация университета) склоняется к выводу, что большинство рабочих мест будут автоматизированы и преданы забвению. Затем прогрессивное подразделение Camp Automation приводит аргументы в пользу необходимости создания версий всеобщего базового дохода и других социальных услуг, чтобы обеспечить выживание в мире без работы. Конечно, это США… большинство в Camp Automation склонны паниковать и отказываются заниматься тем, как их взгляды могут пересекаться с поздней стадией капитализма, структурным неравенством, ксенофобией и политической поляризацией.
Противовесом Camp Automation является Camp Augmentation (дополнение университета), к которому я отношусь гораздо более аналитически. Некоторые приходят в Camp Augmentation, потому что думают, что Camp Automation абсолютно чокнутая. Но есть также много людей, которые достаточно изучили историю, чтобы наблюдать, как фантазии об автоматизации неоднократно превращаются в дополненную реальность без уродливых головных уборов.
В Camp Automation и Camp Augmentation вмешивается культурная паника по поводу того, что вообще значит быть человеком. Я нахожу эту экзистенциальную тоску утомительной из-за ее неспособности понять, как она лежит в основе философии. Это также немного беспокоит, учитывая, что большинство попыток решить эту проблему на протяжении всей истории включали изобретение новых религий. О, рябь истории.
Хотя обсуждение того, что значит быть человеком, вероятно, станет темой более поздней записи в блоге, я хочу воспользоваться моментом, чтобы подумать о будущем работы. Camp Automation видит, что небо падает. Camp Augmentation больше сосредоточено на том, как все изменится. Если мы примем позицию Camp Augmentation, следующий вопрос: какие изменения мы должны исследовать более глубоко? Первый инстинкт — сосредоточиться на том, как изменения могут привести к увеличению неравенства. Это действительно самые важные виды анализа, которые необходимо сделать. Но я хочу немного поболтать с другой проблемой: деквалификация.
Моральные зоны неуверенности
Много лет назад Мадлен Элиш решила разобраться в истории автоматизации полетов. В 1970-х годах технические специалисты создали инструмент, который сделал полеты более безопасными, инструмент, который мы теперь знаем как автопилот. Перед Федеральным авиационным управлением и Конгрессом стоял вопрос: должны ли мы разрешать самолетающие самолеты? Короче говоря, люди решили, что штурман не обязательно должен быть в кабине, но что все самолеты должны управляться пилотом и вторым пилотом, которые должны быть оснащены, чтобы вмешаться и взять на себя управление машиной, если что-то пойдет не так. Люди в петле.
Подумайте об этом на секунду. Звучит разумно. Мы верим, что люди будут более вдумчивыми. Но какой человек способен взять на себя управление и помочь машине в режиме отказа в ситуации с высокими ставками? На практике большинство людей взяли на себя управление и не смогли помочь самолету отвоевать себя. Самолеты разбились, и людей обвинили в том, что они не собрали осколки, оставленные машиной. Это то, что Мадлен называет «зоной моральной неуверенности». Люди были помещены в петлю самым худшим из возможных способов.
Эта позиция для пилотов и вторых пилотов становится еще более сложной, когда мы думаем об их навыках. Пилоты интенсивно тренируются, чтобы управлять самолетом. А потом они получают работу, где их «настоящая» работа — присматривать за машиной. Что это означает на практике? Это означает, что они деквалифицируются на работе. Это означает, что те пилоты, которые находятся в авангарде каждого коммерческого самолета, менее опытны, менее способны сменить машину с течением времени. Структурно мы зависим от автопилота все больше и больше. Boeing поднял это на новый уровень, отказавшись от пилотов на своих 737 MAX в ущерб им.
Чтобы оценить это в полной мере, подумайте о том, что произошло, когда Чарльз «Салли» Салленбергер III посадил самолет в реке Гудзон в 2009 году. Салли был не просто пилотом. В свободное время он переучил коммерческих пилотов, как летать, если их оборудование вышло из строя. Салли был, пожалуй, лучшим пилотом, способным заменить неисправную систему. Но ему нужно было не просто перенастроить свое оборудование — ему нужно было перенастроить авиадиспетчеров. Они хотели, чтобы он поехал в Тетерборо. Их модели предполагали, что он может это сделать. Он сделал вывод, что не может. Вместо этого он решил посадить самолет в Гудзоне.
Если бы Салли умер, его бы обвинили в неповиновении субординации и «ошибке пилота». Но он жил. Так он стал американским героем. Он также стал предметом изучения, потому что его решение обойти управление воздушным движением оказалось оправданным. Он бы не справился. Более того, компьютерные системы, которые он не мог обойти, предотвратили более мягкое воздействие.
Салли - аномалия. Он пилот, который не прошел деквалификацию на работе. Даже не немного. Но это не относится к большинству пилотов.
Итак, вот мой вопрос о нашем будущем ИИ: как мы собираемся подготовиться к деквалификации на работе?
Как развиваются навыки?
Мой дедушка был пилотом Королевских ВВС. Когда он устроился на работу, он не знал, как летать. Конечно, нет. Его учили на работе. И на протяжении всей своей карьеры его учили множеству вещей на работе. Обучение было неотъемлемой частью профессионального развития в его карьере. Его отправляли на длительные периоды времени для обучения менеджменту.
Сегодня от вас ожидают, что вы придете на большинство рабочих мест с навыками, потому что работодатели не видят смысла обучать вас на рабочем месте. Это помогает объяснить множество мест, где у нас есть серьезные пробелы в талантах и возможностях. Никто не может представить медсестру, обученную работе. Но, к сожалению, мы даже не строим много структур для создания инженеров-программистов на работе.
Тем не менее, есть много мест, где вы социализируетесь в профессию через черную работу. Рассмотрим юридическую профессию. Работа, которой занимаются молодые юристы, — это бесполезный труд. Это ужасно скучно и не требует юридического образования. Более того, многое из этого можно автоматизировать таким образом, чтобы уменьшить потребность в молодых юристах. Но что делает с юридическим полем отсутствие такой подготовки? Как выглядят новые конвейеры обучения? Возможно, сейчас нас устраивает деквалификация младших юристов, но как нам воспитать будущих юристов, которые будут делать работу, которую не могут делать машины?
Это тоже проблема в образовании. Поздравляем, студенты: теперь в вашем распоряжении инструменты, которые могут помочь вам срезать углы новыми способами (или откровенно схитрить). Но что, если мы деквалифицироваем молодых людей с помощью технологий? Как мы помогаем им освоить профессии, требующие более продвинутых навыков?
Здесь также существует тонкий баланс в отношении навыков. Я помню, как хирург сказал мне, что ты хочешь сделать плановую операцию во вторник. Почему? Потому что в понедельник хирург обновился, но немного заржавел. Ко вторнику они снова в строю, но не истощены. Более того, существовала тонкая грань между практикой и утомлением: чем больше хирурги должны делать каждую неделю, тем больше количество работ, с которыми они справятся плохо. (Я не знаю, подтверждается ли это фактологической проверкой, но это кажется разумным профессиональным мифом.)
Видя больше, чем эффективность
Эффективность заключается не только в максимизации пропускной способности. Речь идет о поиске оптимального баланса между качеством и количеством. Я очень заинтригован профессиями, которые используют мусорную работу в качестве буфера. Заполнение документации — ненужная работа. Врачам, возможно, не придется делать это в будущем сценарии. Но является ли ответ запланировать больше операций? Или ответ заключается в том, чтобы дать врачам больше времени простоя? К моему большому огорчению, мы склонны оптимизировать график работы в сторону более интенсивного всякий раз, когда внедряем новые технологии, понижая статус высококвалифицированного специалиста. Почему? И какой ценой?
Обратная сторона тоже верна. Когда высококвалифицированные специалисты теперь присматривают за машинами, они теряют свои навыки. Сохранение навыков требует практики. Как мы гарантируем, что эти навыки не будут потеряны? Если мы ожидаем, что люди смогут взять на себя управление машинами в критические моменты, эти люди должны сохранить сильные навыки. Утрата знаний имеет серьезные последствия как на местном, так и на системном уровне. (См.: потеря производственных знаний в США прямо сейчас…)
Есть много вопросов, которые нужно задать о будущем работы с новыми технологиями на горизонте, многие из которых витают в воздухе прямо сейчас. Задавать вопросы о структурном неравенстве, несомненно, является высшим приоритетом, но я также хочу, чтобы мы задавали вопросы о том, что это значит для навыков — и деквалификации — на работе в будущем.
Независимо от того, занимаетесь ли вы усовершенствованием лагерей или автоматизацией лагерей, очень важно всесторонне взглянуть на то, как навыки и рабочие места вписываются в общество. Даже если вы мечтаете автоматизировать все рабочие места, подумайте, что происходит с другой стороны. Как обеспечить будущее высококвалифицированными кадрами? Это урок, который слишком многие раздираемые войной страны усвоили на собственном горьком опыте. Меня не беспокоит грядущий рассвет Терминатора, но меня беспокоит то, что мы будем использовать ИИ для ведения войны против нашей собственной рабочей силы в погоне за эффективностью. Как и во всех войнах, наибольшее значение будут иметь непреднамеренные последствия. Кто думает о волновых эффектах этого выбора?