Вышла моя большая статья в академическом издании http://digital-economy.ru/images/easyblog_articles/1258/DE-2025-01-06.pdf
Но поскольку читают эти журналы только в Академии наук, то статью перепечатали энтузиасты здесь: http://www.oboznik.ru/?p=82020
Там можно почитать полную версию статьи с экрана. Это третья часть статьи, первую часть можно почитать здесь:
https://dzen.ru/a/Z-VOQbS4yTPcQvmF
Вторую часть можно почитать здесь:
https://dzen.ru/a/Z-VWDp5ZgCwrb7Az
Вкратце, там я говорил о непрозрачности и сложности алгоритмов искусственного интеллекта, что повлечет за собой множественные техногенные катастрофы из-за ошибок управления техническими, технологическими, логистическими и прочими процессами, которыми сейчас управляют разные программные системы.
Это первый сценарий.
Второй сценарий - генеративные системы создадут много шума, который сам станет источником входных данных для генерации. В итоге человечество будет завалено массой бессмысленной информации, в которых уже никто не сможет найти интеллектуальные, этические и моральные маяки.
Всего возможны три основных неблагоприятных сценария и различные их комбинации. Сценарии даны в порядке возрастания их опасности и сложности нивелирования последствий.
Второй – катастрофа гносеологическая, порожденная информационным шумом, создаваемым искусственным интеллектом.
Третья – катастрофа экономическая, порожденная интеллектуализацией средств производства.
В этой статье рассмотрим третий сценарий.
Экономическая катастрофа, порожденная интеллектуализацией средств производства.
Эта катастрофа на данном этапе представляется абсолютно непреодолимой и крайне вероятной, поскольку эти процессы уже активно идут. Они ещё не приобрели массовый характер, но тенденции прослеживаются весьма четко.
AI неизбежно приведёт к существенному изменению производственной основы базиса (по марксизму). А согласно тому же марксизму, изменение базиса безусловно приведет и к изменению всей надстройки. Выдержат ли государства такие изменения, будет ли способна современная капиталистическая система наступать на собственное горло постоянного извлечения прибыли и бросить капиталы на грядущие социальные преобразования?
В 2011 году на промышленной выставке в Ганновере представители правительства Германии заявили о необходимости более широкого применения информационных технологий в материальном (прежде всего) производстве. Внимательный анализ концепции Industry 4.0, предложенной немецким правительством, говорит о том, что под четвертой промышленной революцией имеется в виду в основном широкое внедрение кибер-физических систем (cyber-physical system), а следовательно, и AI во многих технологических процессах и цепочках.
Концепция изменения базиса, основанная на классическом понимании марксистской политической экономии, приводит к важному выводу: из состава производительных сил поступательно и необратимо будут исчезать люди. Интеллектуализация средств производства повлечет за собой радикальные социальные изменения в производственных отношениях. Ранее капиталист владел только собственностью на средства производства, а наемный рабочий владел компетенциями, умениями, способностями, которые были его неотъемлемой неотчуждаемой собственностью и позволяли рабочему добывать средства к существованию. Теперь в условиях интеллектуализации средств производства, у наемного работника не остается неотъемлемых свойств. Его компетенции и умения перестают быть уникальным активом, так как они заменяются автоматизированными системами, управляемыми искусственным интеллектом. Традиционные формы трудовых отношений попросту исчезнут, что ставит под угрозу экономическое положение значительной части общества и всю, выстроенную тысячелетиями экономическую структуру отношений. Более того, исчезает возможность повышения своих личных компетенций – алгоритмы AI способны к обучению на порядки выше и дешевле, способны обобщать опыт групп людей, способны объединять разнородные компетенции, которые не могут объединять в себе люди физически. Например, невозможно быть боксером-тяжеловесом и быть мастером бисероплетения, поскольку человек физически может либо развивать мелкую моторику, либо мощные ударные воздействия разбитых кулаков.
Если создается интеллектуальная система, во многих функциях превосходящая человека, то с точки зрения экономической оптимальности (в рамках отношений работник-работодатель) работодателю выгодней использовать искусственный объект: ему не надо платить заработную плату, обеспечивать социальные гарантии, участвовать в социальных взаимодействиях. И говоря о выгоде мы не можем говорит о только наживе, в условиях капиталистической конкуренции внедрение AI просто физически необходим для выживания фирмы.
Но что будет, если AI окончательно заменит специальности, не требующие высокой квалификации и напряженной интеллектуальной деятельности, и которые уже сейчас начинают заменяться роботами-пылесосами, автоматизированными системами складской логистики и беспилотными такси? Смогут ли массово вытесняемые с этих производственных позиций малообразованные низкокалифицированные люди встроиться в рынок труда, а следовательно, в социально-экономическую систему государства как надстройки?
Выброшенные из производственных отношений люди будут вынуждены идти по двум путям, чтобы просто не умереть с голода. Первый путь – путь насилия, от возрождения луддистских идей до организованного грабежа материальных ценностей в более развитых районах. Второй – полная социальная и интеллектуальная деградация больших слоев населения в «технологических» гетто.
Неолуддизм, порожденный внедрением AI будет существенно отличаться от событий Первой промышленной революции. В Англии потерявших работу ткачей просто перевешали или выслали в Австралию. А оставшаяся часть смогла хоть как-то интегрироваться в рынок труда только за счет того, что все остальные профессии были технологически простыми и не требовали высоких компетенций для освоения новых инструментов – любой потомственный высококвалифицированный ткач мог выполнять малоинтеллектуальную работу грузчика на автоматизированном текстильном производстве за еду. Сейчас – в эпоху неолуддизма – высококлассный нейрохирург, заменённый автономным роботом, не сможет стать программистом и настройщиком этого робота – и на программиста, и на нейрохирурга надо учиться десяток лет и эти профессии никак не пересекаются.
Да и смогут ли профессии развиваться в принципе? Здесь будет следующая последовательность строго экономических событий: чтобы стать высококлассным нейрохирургом, способным создавать новые технологии операций, необходимо долго и задорого учиться и многие годы иметь медицинскую практику, то есть работать нейрохирургом за деньги. Однако, «снятые» с нейрохирургов компетенции будут переданы роботу с AI, конкретный нейрохирург потеряет практику сам, потеряет физическую возможность интеллектуально развиваться, аккумулировать и создавать новые знания, потеряет возможность дать образование своим детям, так как потерял практику (оплачиваемую работу) – петля обратной положительной связи замкнется и начнёт свою катастрофическую работу. На этом развитие компетенций профессии прекратится (смотри рассуждения по поводу проблемы утраты когнитивных функций выше).
Современный путь развития нашей технологической цивилизации подразумевает, что алгоритмы AI на основе BigData должны окончательно децентрализовать процесс принятия стратегических, тактических и оперативных управленческих решений, перенаправив эту задачу кибер-физическим системам, вплоть до полного исключения человека из производственного процесса. Предполагается, что высвобожденные из производственного процесса люди переквалифицируются в наладчиков и контролеров технологических линий, в инженеров и создателей новых технологий.
Но этого не будет из чисто экономических причин. Высвободив тысячу низкоквалифицированных рабочих с конвейера, вряд ли будет создана ровно тысяча рабочих мест контролеров и наладчиков, поскольку тысяча уволенных низкообразованных разнорабочих одномоментно не смогут диверсифицировать свои компетенции до уровня высоко- и узкоспециализированных контролеров и наладчиков. Что же касается преображения массы рабочих, пусть даже высококвалифицированных, в инженеров-изобретателей и инноваторов, обеспечивающих технологические прорывы, то эта трансформация представляется крайне маловероятной, поскольку прорывное инновационное творчество – удел единиц при условии, если есть постоянная экономическая поддержка работы изобретателя.
С массой безработных людей, как потерявших работу, так и никогда её не имевших из-за внедрения AI, надо будет что-то делать. В эпоху луддизма потеряли работу тысячи, и их удалось жесточайшим репрессиями подавить, а в эпоху неолуддизма безработными станут миллионы, и эти миллионы будет просто невозможно физически уничтожить.
Второй путь – создание «технологических» гетто, где будут находиться миллионы невостребованных голодных людей не имеющих никаких компетенций – уже опробован на практике и показал самые ужасающие результаты. Так называемые «welfare ghettos» («социальные гетто») показывают, что люди поколениями сидят на пособиях и не желают работать, так как климатические и экономические условия, например, США, позволяют решать витальные потребности и бесконтрольно повышать популяцию безработных. Казалось бы – витальные потребности решены, доступ к мировым интеллектуальным ресурсам, к собственному образованию и повышению квалификации возможен за счет ресурсов Интернета, но из социальных гетто никто не может вырваться в массовом порядке. Но США могут себе позволить содержать такие гетто, а в странах Африки – такой возможности нет. Так же там нет и возможности повышать компетенции, а следовательно, нет возможности продавать свой труд, а значит, нет возможности участвовать в экономической системе, чтобы повышать свои компетенции. Целый континент оказался на задворках технологической цивилизации, и нет никакой возможности вырваться из этой петли, а усложнение технологий, внедрение AI ещё более затягивают эту удавку.
Так выглядят три основных неблагоприятных сценария. В этой статье не предлагаются пути нивелирования перечисленных угроз, дается лишь попытка осмысления негативных путей бесконтрольного внедрения технологий искусственного интеллекта. Чтобы избежать реализации этих апокалиптических сценариев, необходимо чётко понимать возможности и риски, которые способно создать внедрение искусственного интеллекта. Прежде всего, следует сосредоточиться на разработке алгоритмов, обеспечивающих прозрачность и контролируемость принимаемых решений. Эти меры помогут предотвратить непредвиденные последствия, связанные с автономией AI. Важно постоянно отслеживать появление новых технологических, экономических и социальных рисков, возникающих вследствие дальнейшего прогресса в этой сфере. Прогнозирование и управление такими рисками позволят минимизировать негативные эффекты и направить развитие технологий в конструктивное русло. Наконец, требуется уделять внимание вопросам этического регулирования и правового контроля применения искусственного интеллекта. Только комплексный подход, включающий технические, правовые и этические аспекты, позволит обеспечить безопасное и устойчивое будущее в условиях широкого распространения AI.