Несколько лет назад я написал «антиутопичную» статью про будущее автопрома и частного автолюбительства:
...и что характерно, многое из того, что в 2021 году представлялось безумием, сейчас выглядит обыденно – автомобили-гаджеты сомнительного качества по конским ценам, дорогие кредиты и навязанные услуги, цены на бензин, новые ограничения и запреты. Конечно, я угадал далеко не все, но ситуация в целом развивается в указанном мной направлении.
Сегодня я затрону другую тему – цифровую революцию и ее главное порождение – искусственный интеллект (далее – ИИ).
Эволюция и революция в науке и технике
В науке и технике развитие не поступательное, а ступенчатое. Чередуются периоды относительного застоя, за которыми следуют резкие всплески (революции) – прорывы на новые технологические уровни и ощущение, что «мир уже не будет таким как раньше». Те, кто не успел закрепиться в новой области, оказываются за бортом прогресса и со временем поглощается более успешными «игроками», либо просто исчезает. Затем какое-то время опять затишье – накопление опыта для следующего прорыва (эволюция).
Революция – почти всегда явление для многих болезненное. Причем это не обязательно политическое событие, смена власти и т.д. Революция может произойти в какой-то отрасли науки и техники. Например, когда в Англии в начале 19 века на производстве вместо ручного труда стали массово использоваться машины (что тоже может считаться революцией), это вызвало недовольство среди рабочих, которые, по сути стали не нужны. Чтобы не остаться без работы они намеренно саботировали рабочий процесс и эти машины ломали, чтобы доказать свою незаменимость (см. в Википедии "Луддиты"). Чем это для закончилось? Да ничем. Капитализм восторжествовал и машины победили (уже тогда!)
С тех пор прошло два века и революций в области науки и техники было великое множество. И почти все они имели и светлую, и темную сторону. То же открытие ядерной реакции – с одной стороны это «мирный атом в каждый дом», с другой – реальная угроза нашему существованию. Японские города Хиросима и Нагасаки в 1945 году испытали это на себе.
Цифровая революция
А что сейчас? Мы живем как раз в период новой революции – условно ее назовем «цифровая», то есть, массовое внедрение ИТ во все сферы жизни. Если 30 лет назад даже в достаточно крупных компаниях компьютеры часто были только у директора и в бухгалтерии, то сейчас рабочее место даже охранника, выдающего ключи, практически немыслимо без ПК. Венцом творения новой эпохи стал «искусственный интеллект». Сейчас за его развитие отчаянно топят все – от рядовых офисных работников в государственных конторах до владельцев ИТ-корпораций.
Искусственный интеллект – порождение цифровой революции
Если в конце XX века искусственный интеллект был скорее предметом фантастики и лабораторных экспериментов, то начало XXI века стало для него временем выхода в реальный мир. Вначале это были относительно простые и узконаправленные инструменты.
Например, во время учебы в институте (примерно 2000 год) нам на лабораторной работе показывали экспертную систему диагностики автомобиля «Волга». Система была написана на языке «Пролог». Суть простая – выбираешь из списка симптомы (например, «неустойчивый холостой ход»), компьютер ставит диагноз, типа «неправильная регулировка карбюратора». Причем, есть возможность задать несколько вопросов «почему?», на который компьютер даст цепочку ответов, по которой он дошел до постановки диагноза. Также можно спросить «зачем?» – компьютер объяснял целесообразность своих рекомендаций.
Еще была какая-то система распознавания письменной речи на русском языке, но она была настолько примитивной, что напоминала общение с 3-летним ребенком (или 100-летним стариком) :)
Прошло каких-то 20-30 лет человечество прошло путь от экспертных систем, к машинам, способным узнавать кошек на видео, обыгрывать чемпионов в покер, и, наконец, к генеративным моделям. Последнее десятилетие ознаменовалось взрывным ростом машинного обучения и появлением языковых моделей (GPT), моделей для генерации изображений, видео, презентаций, веб-страниц, программного кода и т.д. ИИ эволюционировал от инструмента, который анализирует мир, до инструмента, который создает новый контент: тексты, изображения, музыку и программный код, все чаще стирая грань между продуктом человека и машины. Параллельно с этим развивается робототехника, беспилотный транспорт – от простых роботов-доставщиков пиццы до автомобилей и поездов.
Складывается ощущение, что близко то «будущее», которое мы в детстве видели в диафильмах типа «100 лет тому вперед» и в фильмах про Алису Селезневу и робота Вертера со знаменитой песней «Прекрасное далёко» .
И вот это «прекрасное далёко» наступает. Человечество, конечно, не преуспело в освоении космоса как в произведениях Кира Булычева (не понятно, зачем нам летать на Сириус или Альдебаран), но прогресс в области цифровых технологий выглядит поистине выдающимся. С появлением госуслуг, онлайн-банков, интернет-магазинов, мессенджеров и прочих атрибутов цифровой эпохи наша жизнь стала гораздо проще и удобнее. ИИ уже сейчас заменяет нам личного помощника во многих областях и переводит нас из разряда «работников» в разряд «начальников». Даже если ты вчерашний студент и тебе критически не хватает опыта, чтобы выполнять какую-то серьезную работу, но ты умеешь использовать тот же Deepseek, скорее всего, задача на месяц будет выполнена за пару дней. ИИ уже сейчас во многих задачах уравнивает экспертов и дилетантов.
Если текущие тенденции развития ИИ сохранятся без должного контроля, человечество может столкнуться с рядом серьезных системных проблем, ведущих к стагнации и деградации. А именно...
1. Рост безработицы
ИИ и промышленные роботы уже вытесняют не только физический труд, но и высококвалифицированных специалистов: бухгалтеров, переводчиков, аналитиков, журналистов, программистов, даже врачей-диагностов и юристов. Возникнет «лишний класс» людей, для трудоустройства которых просто не останется оснований – робот ту же работу сделает гораздо быстрее и дешевле.
Даже если вашу профессию в принципе невозможно заменить роботами и ИИ (на данной степени их развития), со временем в вашу нишу хлынут те, кого цифровые технологии лишили работы и средств к существованию. Бывшие ИТшники и аналитики выучатся на электриков и плиточников – это им не составит труда, если жизнь заставит! А уж таксистами и курьерами можно работать безо всякого дополнительного обучения. Кратно возрастет конкуренция на рынке рабочих специальностей, люди будут готовы работать за меньшие деньги.
2. Утрата навыков и умственная деградация
Полагаясь на ИИ в принятии решений, анализе и даже творчестве, человек рискует утратить собственные способности. Что-то вроде «цифрового слабоумия», когда навыки критического мышления, поиска информации и глубокого анализа атрофируются за ненадобностью – зачем думать самому, если есть ИИ? Причем со стороны руководства это косвенно поощряется – сотруднику ставят задачу, и нет никакой разницы, как он ее решил – с помощью собственных знаний, или с помощью ИИ.
Уже сейчас фактически идет деградация образования. Начиная со школы люди крепко сидят на игле искусственного интеллекта. Раньше, чтобы подготовить качественный доклад по теме, например, «жизнь лесных муравьев», школьнику нужно было проделать достаточно масштабную работу – вплоть до поездки в лес и зарисовки муравейника с натуры :) Подобные задачи «прокачивали» разные области знаний и умений – даже если лесные муравьи школьника абсолютно не интересовали, он учился работать с информацией, выделять главное, систематизировать, оформлять и делать выводы. На это уходили часы, дни, недели. Сейчас достаточно написать несколько промптов, чтобы ИИ сделал это за 5 минут, а в освободившееся время втыкать в ТикТок или Майнкрафт (есть, конечно, исключения, но они именно исключения).
Да что там, школьные рефераты... А в текстах научных работ периодически встречаются не удаленные промпты, что свидетельствует о том, что соискатель даже не читал «свою» работу. Хотели бы, например, лечиться у такого «кандидата медицинских наук»?
3. Тотальная слежка и контроль
ИИ уже сегодня способен анализировать видео с камер, наши социальные связи, покупки и передвижения. В руках государства или корпораций это превратится в совершенный инструмент для «мягкого» подавления инакомыслия – доверие к контенту, сгенерированному ИИ со временем будет расти и приблизится к тому, как в советское время верили телевизору – помните, как в конце 80х годов все тазики с водой заряжали? Сейчас это кажется полной дурью, но тогда многие искренне считали эти телесеансы прорывом в медицине!
И сейчас каждый раз, когда мы обращаемся к ИИ с целью помочь расшифровать медицинские анализы, посчитать оптимальный способ распорядиться N-ой суммой денег и т.п. мы сами ему сообщаем, чем болеем, на что тратим и какие планы строим. Куда эта информация идет потом – остается только догадываться.
4. Новый виток расслоения общества
Общество расколется на крошечную прослойку сверхбогатых владельцев технологий и алгоритмов, «новую аристократию данных», и огромную массу людей, лишенных не только работы, но и перспектив. Некий технократический империализм. Государство будет всячески поддерживать новый уклад, точно так же как ранее поддерживалась религия, как средство подчинения и манипулирования массовым сознанием (одни «крестовые походы» чего стоили). Это приведет к росту социального напряжения, но малейшие попытки открытого проявления недовольства будут жестко подавляться. Раньше мы это видели в фантастических фильмах, а теперь это все больше похоже на нашу не столь отдаленную перспективу.
5. Кризис аутентичности и доверия
Генеративный ИИ способен создавать реалистичные фейковые видео и тексты, практически неотличимые от написанных человеком. Это уничтожает саму концепцию объективной истины, подрывает доверие к СМИ, науке, судебным системам и любым цифровым свидетельствам.
И не дай бог вы сольете свои персональные данные – свое фото, например (популярный промпт «покажи меня в старости»). Тогда не удивляйтесь, если сгенерированный кем-то с помощью ИИ персонаж будет как две капли воды похож на вас. И в каком виде он предстанет перед интернет-аудиторией – все зависит от того, какие цели преследуются теми, кто вас сгенерировал.
Вслед за этим наверняка будут появляться сообщества, отрицающие все и вся, живущие в своей выдуманной «вселенной». Яркий пример из современности «плоскоземельщики» – сторонники теории, плоской Земли. Или приверженцы «теории заговора», которые носят шапочки из фольги, чтобы защитить мозг от вредного излучения, вторжения в сознание, в том числе от инопланетного разума и прочий бред. Наверняка со временем найдется множество людей, уставших от «цифровой» жизни и ИИ, которые начнут объединяться в «клубы по интересам».
6. Упадок культуры
Сейчас ИИ научился создавать музыку, изображения и видео. По крайней мере, сейчас половина «вирусных видео» – это контент, сгенерированный ИИ. Да, в нем есть «косяки», выдающие искусственное происхождение, но с каждым годом качество этих видео растет.
Обратили внимание, что после того как многие артисты «исчезли» с центральных каналов, их просто заменили на элементы 3D-графики и дополненной реальности. На новогодних «голубых огоньках» сейчас это сплошь и рядом (и не только на них). Выглядит странновато.
Я смотреть это без слез смотреть не могу. Но подобные шоу находят своего зрителя. И это только начало. И это не ИИ, это просто 3D-графика и монтаж. Рекламщики уже сейчас вовсю используют ИИ-дикторов.
Подозреваю, что в недалеком будущем появятся полнометражные фильмы и сериалы, созданные ИИ, причем их создавать сможет каждый. Согласитесь, удобно! Загрузил на сайт текст «Войны и мира» и сказал – сделай из этого сериал из 20 серий длительностью по 20 минут. Еще можно перечислить, каких актеров ты хочешь видеть в роли Пьера Безухова, Андрея Болконского и Наташи Ростовой. Сейчас это пока выглядит фантастикой, но со временем так и будет, потому что пресловутое «клиповое мышление» порождает подобный спрос. То, что сейчас Deepseek объясняет текстом, какая-то другая нейросеть недалекого будущего «на лету» сконвертирует в полноценный фильм.
А уж про сочинение музыки – уже сейчас каждый сам себе композитор и певец. Например, у нас в домовом чате живо обсуждалась проблема кормления голубей перед подъездом – все как полагается, с руганью, угрозой вызвать полицию, переходом на личности и «вот этим вот всем». Я по этим мотивам написал промпт и загрузил его в Suno, которая мне написала вот такую песню:
Этот трек создан на бесплатном аккаунте за 3 минуты, но звучит так, будто ее исполняет профессиональная рок-группа. Есть, конечно, шероховатости в плане текста – рифма, ритм соблюдаются не везде. Но это только начало.
Подобные инструменты сейчас никак не могут повлиять на мэтров сцены, но начинающие музыканты, пытающиеся зарабатывать на создании музыки для каких-то небольших проектов неизбежно столкнутся с трудностями. Зачем заказчику привлекать живых музыкантов, если эту задачу может выполнить нейросеть?
7. «Алгоритмическая несправедливость»
ИИ, обучающиеся на данных, созданных людьми, унаследуют и все наши предрассудки – национальные, гендерные, социальные. Эти предубеждения, будучи встроенными в системы, принимающие судьбоносные решения (кредиты, найм, правосудие), возможно, получат мощное усиление и легитимизацию, будучи прикрытыми маской «объективности» алгоритма. Особенно, если какая-то система ИИ будет утверждена на законодательном уровне как «обязательная для использования». И если вы «без объяснения причин» получите отказ в каком-то важном для вас решении, винить будет некого – «так решил утвержденный алгоритм». Хотите судиться с роботом? Удачи!
Cейчас в сферу образования приходит новая фишка – прокторинг. Это когда ты сдаешь экзамен под камерой, и ИИ анализирует все твою активность – вплоть до движения зрачков. Отвлекся от экрана, посмотрел в сторону – получил предупреждение. Несколько предупреждений – экзамен провален.
Я сам лично занимался интеграцией системы прокторинга в нашу корпоративную обучающую среду и могу сказать, что современный прокторинг – крайне «сырой» продукт и окончательное решение принимает человек (пока). Но это решение судьбоносное – человек либо получает возможность повышения по службе, либо нет.
8. Уязвимость цивилизации
Представьте, что мы передадим под контроль нейросетей критически важные отрасли – энергетику, экономику, государственное управление, здравоохранение, и т.п. В начале это скорее всего даст положительный эффект – ИИ беспристрастен, неподкупен, внимателен к деталям, никогда не устает, умеет предвидеть и прогнозировать. Но это до первого масштабного сбоя...
Принципы работы нейросетей и созданных моделей даже сейчас их создатели понимают не до конца, тем выше риск катастрофических сбоев. Например, человечество исчерпало запасы нефти и энергетическая система не тянет питание дата-центров и они начинают один за другим отрубаться. Ну так, чисто теоретически... По мере уменьшения количества активных дата-центров, глобальная нейросеть начнет страдать «деменцией» и решения, которые она будет при этом принимать далеко не всегда будут адекватными, что чревато, так скажем, крайне негативными последствиями для человечества.
Вопрос для размышления...
Что для вас искусственный интеллект? Технический прорыв, который способен вывести жизнь человека на принципиально новый уровень, или замок на песке, который рано или поздно рухнет, спровоцировав закат цивилизации?
Ответ напишите в комментариях!