По просьбе «Правил жизни» один из пионеров рунета, технооптимист и директор «Яндекса» по стратегическому маркетингу Андрей Себрант проводит краткий экскурс в историю развития человечества и убедительно распаковывает наши страхи.
T
Луддизм неистребим:
почему человечество так боится
Андрей Себрант /
новых технологий?
По просьбе «Правил жизни» один из пионеров рунета, технооптимист и директор «Яндекса» по стратегическому маркетингу Андрей Себрант проводит краткий экскурс в историю развития человечества и убедительно распаковывает наши страхи.
Необходимое предисловие автора, или Как совершить диверсию с помощью шариковой ручки
[ 01 ]
Редакторы «Правил жизни» знатно умеют троллить. Написать с предложением выступить на сайте и дать в качестве референса колонку Володи Гуриева — сильный ход. Как будто каждый может писать как Володя. Некоторое время я размышлял, что и как ответить, но потом решил, как нынче выражаются, воспринимать все в позитивном ключе и считать такую ссылку индульгенцией: раз он написал так, как любит и умеет, то можно и мне что-то на свой вкус, а не по стандартам и правилам создания колонок для серьезной прессы. Даже интересно, что получится. Правда, обычно у меня получаются байки на тему и вокруг.
Начну с воспоминания о школьных временах, а учился я в советской школе в 60-е годы прошлого века. Однажды меня выгнали из класса и срочно вызвали родителей к директору. Учительница русского языка и литературы буквально рыдала и на уроке, и в кабинете директора: совершенный мной проступок поверг ее в честный ужас. Стоя под дверью кабинета директора, я слушал ее срывающийся голос: «Это… Это страшно, это какое-то издевательство над всей нашей культурой, над русским языком и великой литературой! Мы в начальной школе не позволяем детям брать в руки даже автоматическую ручку, мы учим их макать перо в чернильницу, учим правильному нажиму и пользоваться промокашкой. Мы только после этого допускаем автоматическое перо — и еще пристальнее следим за правильным начертанием букв, за нажимом и общей культурой письма и письменной речи. Ваш сын принес это… Я не знаю, я никогда не видела раньше, но это ужасно. Я ночь не спала. Это какое-то покушение на всю русскую культуру. Вы можете себе представить, чтобы Пушкин чем-то подобным стал писать??? И что он смог бы написать?! Я отняла у него эту вашу, с позволения сказать, ручку, но этого мало. За такое следует наказывать, нужно категорически запретить детям чем-то таким пользоваться. Он говорит, это ваши друзья из Америки привезли. Как вы могли позволить, что эти друзья на ваших глазах подарили такое ребенку, а он еще и в школу это понес?!».
Вы догадались уже, наверное, в чем была крамола и американская диверсия: я принес в школу шариковую ручку, еще почти неведомый в начале 1960-х в СССР продукт новых технологий. Эту историю я часто потом вспоминал. Мне интересно (а иногда и нужно по работе) было понять, почему так часто что-то новое пугает людей и страхи эти еще и обретают какой-то вселенский масштаб и получают так модный нынче эпитет экзистенциальной угрозы. Потом у меня появилась гипотеза — вполне наивная, конечно, но и непротиворечивая при этом. Вот к чему она сводится: мифы об утраченном золотом веке людям нравятся и людей портят. Влюбляясь в прекрасное прошлое, они убеждают себя, что перемены ничего хорошего не сулят и сулить не могут, ведь они нас отдаляют от золотого века. Начинается откровенная боязнь перемен, быстро переходящая в активную к ним неприязнь. Увы, по личным ощущениям, таких боязливых становится все больше с каждым годом.
А перемены, так уж повелось, часто связаны с технологическими прорывами. Не хочу сейчас обсуждать Прометея, хотя у человечества и накопилось вопросов об этичности использования огня — от сжигания еретиков до сжигания ископаемого топлива во славу климатической катастрофы. Пробегусь по более свежим и лучше документированным историям, знание которых (особенно знание итогов) сильно помогает при чтении тревожных статей техноалармистов.
Середина XIX века: закон о красном флаге
[ 02 ]
Транспортная отрасль переживает серьезную технологическую революцию: появляется немыслимый прежде безлошадный транспорт; лидеры общественного мнения и эксперты тех времен рисуют страшные картины будущего, в котором механические чудища на дорогах сводят своей скоростью с ума пассажиров в экипажах и лошадей на дорогах. Законодатели внемлют и вводят «законы красных флагов». Перед безлошадной повозкой обязан пешком идти человек с красным флагом в светлое время суток и с красной лампой — в темное.
Его присутствие должно вселять в людей на улицах и других участников дорожного движения уверенность, что все под полным контролем человека, а безлошадный экипаж не превысит скорости пешехода. Прошли годы, прежде чем эти заградительные законы были отменены, зато начали вырабатываться принципиально новые нормы для автотранспорта: появились дорожные знаки и дорожная разметка, ПДД и технические требования к оснащению автомобилей, водительские права и техосмотры. Гужевой транспорт при этом помер как массовое явление, утащив за собой и конюхов с кучерами. Читая сейчас про активную жизненную позицию и аргументацию противников self-propelled-транспорта XIX столетия, понимаешь, откуда берется вдохновение борцов с self-driving-машинами XXI века.
Первая повозка без лошади. Mirrorpix/Legion Media
Один из первых экспериментальных автомобилей, 1896 год. RBM Vintage Images/Legion Media
Конец XIX века. Начало электрификации
[ 03 ]
Еще не догадывающиеся о грядущем глобальном потеплении и незнакомые с концепцией парниковых газов граждане хотят теплый свет газовых рожков, а не бездушное и смертельно опасное электрическое освещение. Мемы (тогда их называли карикатурами) лучше всяких слов передают эмоции встревоженных людей.
Карикатура на тему электрификации. Alamy/Legion Media
Bettman/Getty Images
Вырвавшийся на свободу демон — электричество. Электрификация сопровождается конкуренцией двух типов транспортировки и использования электроэнергии: основой одного был постоянный ток и относительно низковольтные лампы накаливания, другой — переменный ток и дуговые лампы высокого напряжения. Конкурентная гонка, как обычно, ставит скорость разворачивания систем выше безопасности людей, и процесс сопровождается травмами, гибелью людей, пожарами. В итоге, как мы знаем по собственному опыту, победили технологии переменного тока (и развитие сопутствующих правил и регламентов электробезопасности), а давно исчезнувший из систем освещения газ (и прочая сжигаемая органика типа лучин или керосина) теперь окончательно вымывается и из систем генерации тепла. С романтичными профессиями фонарщика и кочегара все тоже понятно. Но сейчас никого уже не надо убеждать, какой катастрофой был бы мир с тепловой энергетикой вместо электрической.
Тридцатые годы XX века. Звукозапись
[ 04 ]
Очередная технология покушается на привычный уклад и заработок творческих людей (и, как водится, кого-то грозит оставить без работы). В рестораны, кинотеатры и прочие увеселительные заведения приходит гроза музыкантов — синхронный звук, звукозапись и воспроизведение c использованием привычной нам техники: микрофонов, усилителей, проигрывателей. На лентах с кинофильмами появляется страшное — звуковая дорожка. В 1930 году Американская федерация музыкантов создает Лигу защиты музыки, призванную бороться с мерзостью «консервированного звука» — звукозаписью всех сортов. Лига разворачивает обществе и прессе большую кампанию: надо убедить страну, что эта «консерва» мало того что дурного качества, так еще и аморальна, поскольку грозит массово оставить музыкантов без работы. Прикольно сейчас смотреть соответствующие креативы, в которых для убедительности записанную музыку символизирует отвратительно выглядящий, лишенный чести и совести железный робот. Критики и музыканты хором утверждают, что на кону сама суть музыкальной культуры, основанной на индивидуальности и неповторимости каждого живого исполнения.
Исход этого противостояния мы тоже знаем: живая музыка не умерла, профессия музыканта тоже никуда не делась, но вот таперы действительно исчезли. А звукозапись и выросшая вокруг нее индустрия обеспечили музыкантам мощный источник дохода и немыслимый во времена таперов массовый доступ людей к самой разной музыке. Потом еще появились цифровые носители, MP3, стриминг, но это уже другая история, и по ходу ее тоже случалось немало возмущений и апокалипсических пророчеств. Музыка при всем этом живее всех живых и потрясающе разнообразна.
На вышеизложенные исторические байки я потратил половину того объема знаков, которые мне выделила редактор на эту колонку, а до искусственного интеллекта, которому текст должен быть посвящен, так и не дошел. Но, может, у вас уже какие-то ассоциации появились, а с ними и интересные мысли?
По поводу такого нарратива могут быть разные мнения, но мне не жаль такой расточительности, потому что каждый из этапов массового внимания к продуктам на основе технологий машинного обучения (они же «искусственный интеллект» в массовом представлении — удобный термин, располагающий к эмоциональному восприятию) напоминает многое из тревог прошлого. Полезно про это прошлое знать и помнить, чем дело кончилось и почему. Особенно полезно помнить, что ни одна из предрекавшихся катастроф не случилась, а вот мир каждый раз становился лучше и разнообразнее. Золотой век не утрачен, он еще не наступил.
Один из протестов Лиги защиты музыки, 1947. Alamy/Legion Media
Так что же в итоге с искусственным интеллектом?
[ 05 ]
Обойдемся без глубоких исторических экскурсов; термин возник еще в 50-е годы прошлого века.
История исследований и развития ИИ извилиста и разнообразна, но все наблюдаемые нами сегодня практические результаты — включая наиболее впечатляющие достижения в области генерации разнообразного контента, успешных выступлений в играх или предсказания погоды — основаны на развитии одного подхода: создания алгоритмов, которые в процессе работы автоматически совершенствуются на основе приобретаемого опыта. Этот подход логично называется машинным обучением. Именно он привел к прорывам в обработке естественного языка — отсюда и качественный машинный перевод, даже уже и синхронный, и тот ChatGPT, что нынче у всех на слуху. Он же позволил создать и модели, генерирующие не только связные и содержательные тексты, но и впечатляющие изображения и видео.
Машинное обучение, строго говоря, лишь один из многих подходов к созданию искусственного интеллекта, но именно его продуктовые воплощения теперь называют ИИ. Упрекнуть в этом лишь журналистов нельзя. Популярности термина среди широкой публики во многом поспособствовал генеральный директор Google Сундар Пичаи, когда в 2016 году сделал программное заявление про технологическое развитие: «Предыдущие десять лет мы строили мир, в котором на первом плане были мобильные устройства, превратившие телефон в пульт управления нашей жизнью. Но за следующие десять лет мы перенесемся в мир, в котором на первом плане будет искусственный интеллект»
Тот 2016 год был очень важен для машинного обучения не только пророчеством Пичаи. Как раз в марте 2016-го программа Alfa Go победила Ли Седоля, профессионального игрока в го девятого дана, в матче со счетом 4:1. В отличие от знаменитого матча 1997 года, в котором программа Deep Blue обыграла в шахматы Каспарова, здесь алгоритм не аккумулировал знания и экспертизу лучших гроссмейстеров — он учился сам. Более того, следующая версия алгоритма Alfa Zero смогла обучиться вообще с нуля, безо всякого знакомства с игрой живых людей, — и всухую обыграть Alfa Go. В архитектуре этих алгоритмов активно использовались искусственные нейронные сети, и с тех пор этот термин наряду со словами «искусственный интеллект» все больше уходит в народ.
Кадр из фильма AlphaGo. Alamy/Legion Media
Победа Alfa Go привлекла куда большее внимание, чем высказывания Пичаи. И именно с 2016 года, то затухая, то сильно разгораясь, продолжаются споры о роли ИИ в нашей жизни. Тот факт, что алгоритм легко справлялся с игрой, которая принципиально не просчитываема, в которой от людей требуется многолетнее погружение в ее практику и которая требует, по словам лучших игроков и преданных зрителей, глубокого чувства гармонии и великолепной интуиции, многих расстроил. И, как любая победа над человеком в глубоко человеческом занятии, породил мысли о более широком противостоянии — и начались бурные дискуссии о войне людей и машин. То, что у алгоритма в принципе нет и быть не может ни мотивации, ни эмоций, мало волновало спорщиков: эмоций было достаточно у Ли Седоля (и про это даже был снят интересный фильм: «АльфаГо» (2017)) и автоматом его способность чувствовать проецировалась на соперника, только чувства тому приписывались иные. Вы же помните злого робота, отнимавшего хлеб у музыкантов за 86 лет до этого? Антропоморфизация технологии рулит.
Работы по внедрению алгоритмов машинного обучения в самые разные цифровые сервисы во второй половине десятых годов нашего века велись очень широким фронтом, но мало кого интересовали, кроме специалистов. Одно дело — обсуждать готовность нейросетей захватить мир, а другое — задуматься о том, что ежедневно ты общаешься с плодами работы этих нейросетей, которые делают твою жизнь комфортнее.
В поиске что «Гугла», что «Яндекса» все больший процент ответов формировался нейросетями, папки входящей почты оставались несильно загажены благодаря машиннообученным алгоритмам антиспама, электронные платежи работали надежно благодаря антифроду опять же на основе машинного обучения… Можно долго еще перечислять примеры невидимого, но постоянного и вездесущего присутствия машинного обучения на цифровой стороне нашего мира, но все это внимания не привлекало.
Зато его привлекли генеративные алгоритмы на основе все тех же нейронных сетей. Как и в случае с го, людей задело, что новые алгоритмы покусились на занятия, всегда считавшиеся сугубо человеческими. Поскольку креативный класс куда многочисленнее игроков и поклонников го, возмущение было сильно громче. Особенно когда оказалось, что нейросети посмели взять на себя не рутинные операции, а самую интересную часть. Вот что писал композитор Кузьма Бодров, комментируя выступление Юрия Башмета на Зимнем международном фестивале искусств в Сочи в 2019 году: «…Это были мелодические линии [в сгенерированных нейросетью «Яндекса» файлах], изложенные на фортепиано. Как ни странно, в них были интересные зерна, за которые цепляется слух. Но они были не оформлены… Я получил кирпичики, из которых начал строить здание. Это можно назвать соавторством, потому что мелодические линии были предложены не мной, а нейронной сетью». С тех пор спор на тему «Соперник, соавтор или просто инструмент?» в отношении генеративных алгоритмов не утихает, сейчас как раз очередной всплеск таких дискуссий. Ответа пока нет, и непохоже, что он появится в скором будущем.
Обострился вопрос про роль генеративных нейронных сетей с появлением еще одного класса алгоритмов, называемого «большие языковые модели». Важное слово здесь — «языковые». Для нас язык — это очень компактный способ отображения и описания богатства внешнего и внутреннего мира, эффективного кодирования куда более сложной сущности, нашей жизни. Для языковых же моделей за языком не существует вообще ничего — просто по определению. Сложнейшая изощренная статистика словоупотребления, недоступная для кодирования вручную, — вот суть языковых моделей, никаких сущностей вне языка в них не заложено и не может быть заложено. Циничное высказывание одного специалиста «ChatGPT — это Т9 на стероидах», вообще говоря, технически корректно, если не задумываться о ядерной мощи тех стероидов.
Вот и дошли мы до наших дней. В начале февраля 2023 года проходит большая презентация Microsoft, на которой ее руководство объявляет, что генеративные и прочие возможности ИИ в ближайшее время придут на все 1,4 миллиарда персональных компьютеров в мире, где установлена Windows. В этот раз массовый приход новой технологии, похоже, состоится не в виде гонки стартапов, завоевывающих новый рынок, а путем модернизации уже существующих техногигантов, в значительной степени контролирующих цифровую сторону нашего мира. Вслед за Microsoft уже и Google (удивительная, конечно, последовательность) заявил о внедрении новинок ИИ во все свои сервисы.
Так что теперь нам всем — реально всем, а не только технарям или гикам — предстоит жить в мире, где с алгоритмами можно поговорить и попросить их сделать что-то требующее интеллектуальных усилий. Многие, конечно, уже пробовали устройства умного дома и не изумляются возможностям Алисы прочитать сказку по заказу. Но из исполнителей наши цифровые помощники начинают становиться авторами или соавторами (зависит от нас!) и присутствовать готовятся почти везде. Они уже могут и сказку написать, а не только прочитать, и иллюстрацию к презентации нарисовать по словесному описанию (вот это и собирается делать, среди прочего, Microsoft). Недавно диплом для РГГУ нейросети написали вполне неплохой, защита прошла успешно.
Это резко поменявшийся мир, в котором пора учиться жить всем. И, как показывают те исторические байки, с которых я начал этот текст, жизнь в нем будет интереснее и с куда большими возможностями для каждого — правда, ценой исчезновения многих специальностей. И если ты в своем деле не тапер, то будет круто.
{"width":1290,"column_width":89,"columns_n":12,"gutter":20,"line":20}defaulttrue9601290falsetruetrue{"mode":"page","transition_type":"slide","transition_direction":"horizontal","transition_look":"belt","slides_form":{}}{"css":".editor {font-family: ESQDiadema; font-size: 16px; font-weight: normal; line-height: 24px;}"}[{"caption":"Jost","name":"Jost","styles":{"Thin":"100, normal","Extra Light":"200, normal","Light":"300, normal","Regular":"400, normal","Medium":"500, normal","Semibold":"600, normal","Bold":"700, normal","Extra Bold":"800, normal","Black":"900, normal","Thin Italic":"100, italic","Extra Light Italic":"200, italic","Light Italic":"300, italic","Italic":"400, italic","Medium Italic":"500, italic","Semibold Italic":"600, italic","Bold Italic":"700, italic","Extra Bold Italic":"800, italic","Black Italic":"900, italic"}}]https://fonts.googleapis.com/css2?family=Jost:ital,wght@0,100;0,200;0,300;0,400;0,500;0,600;0,700;0,800;0,900;1,100;1,200;1,300;1,400;1,500;1,600;1,700;1,800;1,900