Несколько лет назад я написал «антиутопичную» статью про будущее автопрома и частного автолюбительства:
...и что характерно, многое из того, что в 2021 году представлялось безумием, сейчас выглядит обыденно. Конечно, я угадал далеко не все, я не провидец, но ситуация в целом развивается в указанном мной тогда направлении – все дорожает, вводятся новые ограничения, растут штрафы, количество автомобилей растет (вместе с закредитованностью владельцев), а качество их в общем и целом снижается.
Сегодня я затрону другую тему – искусственный интеллект.
Эволюция и революция в науке и технике
Все течет, все меняется. В науке и технике развитие не поступательное, а ступенчатое. Чередуются периоды относительного застоя, когда происходит просто накопление потенциала (эволюция) и резкие всплески (революции) – прорывы на новые технологические уровни и ощущение, что «мир уже не будет таким как был». Те, кто не успел закрепиться в новой области, оказываются за бортом прогресса и со временем поглощается более успешными «игроками», либо просто исчезает. Затем какое-то время опять затишье – накопление опыта для следующего прорыва.
Революция – почти всегда явление для многих болезненное. Например, когда в Англии в начале 19 века на производстве вместо ручного труда стали массово использоваться машины, это вызвало недовольство среди рабочих, которые, по сути стали в таком количестве не нужны. Чтобы не остаться без работы они намеренно саботировали рабочий процесс и эти машины ломали, чтобы доказать свою незаменимость (см. в Википедии "Луддиты"). Чем это для закончилось? Да ничем. Капитализм восторжествовал и машины победили (уже тогда!)
С тех пор прошло два века и революций в области науки и техники было великое множество. И почти все они имели и светлую, и темную сторону. То же открытие ядерной реакции – с одной стороны это «мирный атом в каждый дом», с другой – реальная угроза нашему существованию. Японские города Хиросима и Нагасаки в 1945 году испытали это на себе.
Цифровая революция
А что сейчас? Мы живем как раз в период новой революции – условно ее назовем «цифровая», то есть, массовое внедрение ИТ во все сферы жизни. Если 30 лет назад даже в достаточно крупных компаниях компьютеры часто были только у директора и в бухгалтерии, то сейчас рабочее место даже охранника, выдающего ключи, практически немыслимо без ПК. Венцом творения новой эпохи стал «искусственный интеллект». Сейчас за его развитие отчаянно топят все – от рядовых офисных работников в государственных конторах до владельцев ИТ-корпораций.
Искусственный интеллект – порождение цифровой революции
Если в конце XX века искусственный интеллект был скорее предметом фантастики и лабораторных экспериментов, то начало XXI века стало для него временем выхода в реальный мир. Вначале это были относительно простые и узконаправленные инструменты.
Например, во время учебы в институте (примерно 2000 год) нам на лабораторной работе показывали экспертную систему диагностики автомобиля «Волга». Система была написана на языке «Пролог». Суть простая – выбираешь из списка симптомы (например, «неустойчивый холостой ход»), компьютер ставит диагноз, типа «неправильная регулировка карбюратора». Причем, есть возможность задать несколько вопросов «почему?», на который компьютер даст цепочку ответов, по которой он дошел до постановки диагноза. Также можно спросить «зачем?» – компьютер объяснял целесообразность своих рекомендаций.
Еще была какая-то система распознавания письменной речи на русском языке, но она была настолько примитивной, что напоминала общение с 3-летним ребенком (или 100-летним стариком) :)
Прошло каких-то 20-30 лет человечество прошло путь от экспертных систем, к машинам, способным узнавать кошек на видео, обыгрывать чемпионов в покер, и, наконец, к генеративным моделям. Последнее десятилетие ознаменовалось взрывным ростом машинного обучения и появлением языковых моделей (GPT), моделей для генерации изображений, видео, презентаций, веб-страниц, программного кода и т.д. ИИ эволюционировал от инструмента, который анализирует мир, до инструмента, который создает новый контент: тексты, изображения, музыку и программный код, все чаще стирая грань между продуктом человека и машины. Параллельно с этим развивается робототехника, беспилотный транспорт – от простых роботов-доставщиков пиццы до автомобилей и поездов.
Складывается ощущение, что близко то «будущее», которое мы в детстве видели в диафильмах типа «100 лет тому вперед» и в фильмах про Алису Селезневу и робота Вертера со знаменитой песней «Прекрасное далёко» .
И вот это «прекрасное далёко» наступает. Человечество, конечно, не преуспело в освоении космоса как в произведениях Кира Булычева (не понятно, зачем нам летать на Сириус или Альдебаран), но прогресс в области цифровых технологий выглядит поистине выдающимся. С появлением госуслуг, онлайн-банков, маркет-плейсов, мессенджеров и прочих атрибутов цифровой эпохи, наша жизнь стала гораздо удобнее. ИИ уже сейчас заменяет нам личного помощника во многих областях и переводит нас из разряда «работников» в разряд «начальников». Даже если ты вчерашний студент и тебе критически не хватает опыта, чтобы выполнять какую-то серьезную работу, но ты умеешь использовать тот же Deepseek, скорее всего, задача на месяц будет выполнена за пару дней. ИИ во многих задачах уравнивает экспертов и дилетантов.
Если текущие тенденции развития ИИ сохранятся без должного контроля, человечество может столкнуться с рядом серьезных системных проблем, ведущих к стагнации и деградации. А именно...
1. Рост безработицы
ИИ и промышленные роботы уже вытесняют не только физический труд, но и высококвалифицированных специалистов: бухгалтеров, переводчиков, аналитиков, журналистов, программистов, даже врачей-диагностов и юристов. Возникнет «лишний класс» людей, для трудоустройства которых просто не останется экономически целесообразных задач.
Даже если вашу профессию в принципе невозможно заменить роботами и ИИ (на данной степени их развития), со временем в вашу нишу хлынут те, кого цифровые технологии лишили работы и средств к существованию. Бывшие ИТшники и аналитики выучатся на электриков и плиточников – это им не составит труда, если жизнь заставит! А уж таксистами и курьерами можно работать безо всякого дополнительного обучения. Кратно возрастет конкуренция на рынке рабочих специальностей, люди будут готовы работать за меньшие деньги.
2. Утрата навыков и умственная деградация
Полагаясь на ИИ в принятии решений, анализе и даже творчестве, человек рискует утратить собственные способности. Может наступить «цифровое слабоумие», когда навыки критического мышления, поиска информации и глубокого анализа атрофируются за ненадобностью. Причем со стороны руководства это косвенно поощряется – сотруднику ставят задачу, и нет никакой разницы, как он ее решил – с помощью собственных знаний, или с помощью ИИ.
Уже сейчас фактически идет деградация образования. Начиная со школы люди прочно сидят на игле искусственного интеллекта. Раньше, чтобы подготовить качественный доклад по теме, например, «жизнь лесных муравьев», школьнику нужно было проделать достаточно масштабную работу. Подобные задачи «прокачивали» разные области знаний и умений – даже если лесные муравьи школьника абсолютно не интересовали, он учился работать с информацией, выделять главное, систематизировать, делать выводы. И, наконец, работать в Word и Powerpoint, чтобы оформить работу в соответствии с заданными требованиями. На это уходили часы, и дни. Сейчас достаточно написать несколько промптов, чтобы ИИ сделал это за 5 минут, а в освободившееся время втыкать в ТикТок или Майнкрафт (есть, конечно, исключения, но они именно исключения).
Да что там, школьные рефераты... А в текстах научных работ периодически встречаются не удаленные промпты, что свидетельствует о том, что соискатель даже не читал «свою» работу. Хотели бы, например, лечиться у такого «кандидата медицинских наук»?
3. Тотальная слежка и контроль
ИИ уже сегодня способен анализировать видео с камер, наши социальные связи, покупки и передвижения. В руках государства или корпораций это превратится в совершенный инструмент для «мягкого» подавления инакомыслия – доверие к контенту, сгенерированному ИИ со временем будет сродни тому, как в советское время верили телевизору – помните, как в конце 80х годов все тазики с водой заряжали? Сейчас это кажется полной дурью, но тогда многие эти телесеансы считали прорывом в медицине!
И сейчас каждый раз, когда мы обращаемся к ИИ с целью помочь расшифровать медицинские анализы, посчитать оптимальный способ распорядиться N-ой суммой денег и т.п. мы сами ему сообщаем, чем болеем, на что тратим и какие планы строим. Куда эта информация идет потом – остается только догадываться.
4. Новый виток расслоения общества
Общество расколется на крошечную прослойку сверхбогатых владельцев технологий и алгоритмов, «новую аристократию данных», и огромную массу людей, лишенных не только работы, но и перспектив. Это приведет к беспрецедентному росту социального напряжения. Раньше мы это видели в фантастических фильмах, а теперь это все больше похоже на нашу реальную перспективу.
5. Кризис аутентичности и доверия
Генеративный ИИ способен создавать реалистичные фейковые видео и тексты, неотличимые от написанных человеком. Это уничтожит саму концепцию объективной истины, подорвав доверие к СМИ, науке, судебным системам и любым цифровым свидетельствам.
И не дай бог вы сольете свои персональные данные – свое фото, например (популярный промпт "покажи меня в старости"). Тогда не удивляйтесь, если сгенерированный кем-то с помощью AI персонаж будет как две капли воды похож на вас. И в каком виде он предстанет перед интернет-аудиторией – все зависит от того, какие цели преследуются теми, кто вас «сгенерировал».
6. Упадок культуры
Сейчас генеративный ИИ научился создавать музыку, изображения и видео. По крайней мере, сейчас половина «вирусных видео» – это контент, сгенерированный ИИ. Да, в нем есть «косяки», выдающие искусственное происхождение, но с каждым годом качество этих видео растет.
Обратили внимание, что после того как многие артисты «исчезли» с центральных каналов, их просто заменили на элементы 3D-графики и дополненной реальности. На новогодних «голубых огоньках» сейчас это сплошь и рядом (и не только на них). Выглядит странновато.
Я смотреть это без слез смотреть не могу. Но подобные шоу находят своего зрителя. И это только начало. И это не ИИ, это просто 3D-графика и монтаж.
Если ИИ полноценно придет в сферу кино и телевидения, в недалеком будущем появятся полнометражные фильмы и сериалы, созданные ИИ, причем их создавать сможет каждый. Согласитесь, удобно! Загрузил на сайт текст «Войны и мира» и сказал – сделай из этого сериал из 20 серий длительностью по 20 минут. Еще можно перечислить, каких актеров ты хочешь видеть в роли Пьера Безухова, Андрея Болконского и Наташи Ростовой. Сейчас это пока выглядит фантастикой, но со временем так и будет, потому что пресловутое «клиповое мышление» порождает подобный спрос. То, что сейчас Deepseek объясняет текстом, какая-то другая нейросеть недалекого будущего «на лету» сконвертирует в полноценный фильм.
А уж про сочинение музыки – уже сейчас каждый сам себе композитор и певец. Например, у нас в домовом чате живо обсуждалась проблема кормления голубей перед подъездом – все как полагается, с руганью, угрозой вызвать полицию, переходом на личности и «вот этим вот всем». Я по этим мотивам написал промпт и загрузил его в Suno, которая мне написала вот такую песню:
Этот трек создан на бесплатном аккаунте за 3 минуты, но звучит так, будто ее исполняет профессиональная рок-группа.
Подобные инструменты сейчас никак не могут повлиять на мэтров сцены, но начинающие музыканты, пытающиеся зарабатывать на создании музыки для каких-то небольших проектов неизбежно столкнутся с трудностями. Зачем заказчику привлекать живых музыкантов, если эту задачу может выполнить нейросеть?
7. «Алгоритмическая несправедливость»
ИИ, обучающиеся на данных, созданных людьми, унаследуют и все наши предрассудки (национальные, гендерные, социальные – их хватает!). Эти предубеждения, будучи встроенными в системы, принимающие судьбоносные решения (кредиты, найм, правосудие), возможно, получат мощное усиление и легитимизацию, будучи прикрытыми маской «объективности» алгоритма. Особенно, если какая-то система ИИ будет утверждена на законодательном уровне как «обязательная для использования». И если вы «без объяснения причин» получите отказ в каком-то важном для вас решении, винить будет некого – «так решил утвержденный алгоритм».
Cейчас в сферу образования приходит новая фишка – прокторинг. Это когда ты сдаешь экзамен под камерой, и ИИ анализирует все твою активность – вплоть до движения зрачков. Отвлекся от экрана, посмотрел в сторону – получил предупреждение. Несколько предупреждений – экзамен провален.
8. Уязвимость цивилизации
Чем больше критически важных систем (энергосети, финансы, логистика, оборона) мы передадим под контроль нейросетей, принципы работы которых даже их создатели понимают не до конца, тем выше риск катастрофических сбоев. Например, человечество исчерпало запасы нефти и энергетическая система не тянет питание дата-центров и они начинают один за другим отрубаться. Ну так, чисто теоретически... По мере уменьшения количества активных дата-центров, глобальная нейросеть начнет страдать «деменцией» и решения, которые она будет при этом принимать далеко не всегда будут адекватными, что чревато, так скажем, крайне негативными последствиями для человечества.
Вопрос для размышления...
Что для вас искусственный интеллект? Технический прорыв, который способен вывести жизнь человека на принципиально новый уровень, или замок на песке, который рано или поздно рухнет, спровоцировав закат цивилизации?
Ответ напишите в комментариях!