Мои коллеги и я, внимательно наблюдая за тем, как искусственный интеллект и автоматизация продвигаются по всем сферам жизни, сходимся в одном: этот процесс несет за собой колоссальные риски, которые касаются не только экономики, но и самого мышления человека.
Автоматизация это не просто смена инструмента, это системный шок, который уничтожает старые экономические и когнитивные модели.
Главный риск автоматизации для общества в целом это неконтролируемое уничтожение рабочих мест, ценности труда и, как следствие, углубление социального неравенства.
Обнуление ценности рутинного труда. Автоматизация радикально снижает потребность в рутинном и шаблонном труде. LLM это глобальная стандартизация всего, что устраняет необходимость в людях, закрывающих однотипные задачи.
- Код становится бесплатным. Главный вывод, который уже нельзя игнорировать: код теперь бесплатный. Тот, кто не способен создавать его с помощью ИИ, начинает стоить отрицательные значения. Под угрозой оказываются джуниоры, чья работа сводится к написанию однотипного кода, который LLM выполняет без проблем.
- Снижение переговорной силы. Автоматизация снижает переговорную силу малоквалифицированных и среднеквалифицированных работников. Они вынуждены либо соглашаться на низкооплачиваемую работу (если она вообще остается), либо выбывать из игры.
- Сокращение штата. В условиях кризиса корпорации используют автоматизацию, чтобы «чистить кровь» и сокращать штат, что поднимает цены на акции, хотя раньше было наоборот. Это ведет к тому, что общая масса выплачиваемых зарплатой денег людям остается неизменной или даже падает.
Теория игр и кризис. Нерегулируемая автоматизация ведёт к коллективно неоптимальному результату, согласно принципам теории игр.
- Концентрация богатства. Игроки (компании) действуют, максимизируя свою прибыль. В результате автоматизация приводит к концентрации богатства у владельцев капитала (тех, кто контролирует алгоритмы), а не к удешевлению товаров для всех.
- Рост неравенства. Если не менять правила игры (регулирование), система, движимая индивидуальными интересами, приведёт к ещё большей концентрации богатства и власти у немногих.
Для предпринимателей и стартапов автоматизация несет риск быть поглощенными или быстро устареть, если они не контролируют технологическую инфраструктуру.
Зависимость от гигантов. Если стартап строит успешный бизнес на базе API крупных игроков (например, OpenAI), он рискует стать лишь «официантом», а крупная компания «Макдоналдсом». Через несколько месяцев, а то и в момент создания, фича, разработанная стартапом, уже находится в дорожной карте гиганта.
Усиление конкуренции. На рынке продаж, особенно в холодных рассылках, автоматизация требует сложной и дорогой инфраструктуры. Технологии быстро устаревают, и изменения в политиках провайдеров могут мгновенно уничтожить выстроенные процессы лидогенерации.
Технический хаос. Чрезмерное увлечение вайбкодингом без должного контроля (Git, архитектура) приводит к хаосу и техническому долгу.
- Неработоспособность. Одна строка кода, сгенерированная LLM, может уничтожить весь проект. Без опыта в разработке собрать что-то крупнее мелкого дашборда с помощью ИИ почти невозможно.
- Проблема безопасности. LLM могут случайно слить секретные данные, например, github_pat, прямо в репозиторий.
Самый скрытый, но, возможно, самый опасный риск это деградация человеческого мышления и способности к глубокой концентрации, поскольку ИИ берёт на себя когнитивную нагрузку.
Делегирование навыков. Люди, которые не могут переварить новую технологию, станут «низкоинтеллектуальными рабами».
- Атрофия мозга. Если отдавать знание на аутсорс, мозг ленится. Человек, не развивающийся через практику и обучение, рискует быть замененным машиной.
- Иллюзия компетентности. LLM создаёт иллюзию смысла, но при этом может «галлюцинировать» и выдавать неточные ответы. Полагаясь на ИИ, люди могут ошибочно считать себя компетентными, не имея возможности валидировать результат.
Ограниченность ИИ. ИИ является лишь большой языковой моделью, которая делает автозаполнение. Она не обладает сознанием, не может инициировать акт высказывания и несет онтологический риск, в отличие от человека. Чрезмерное доверие к нейронкам в сферах, где важна точность (банковский софт, управление железом), опасно, поскольку ошибки могут возникнуть даже из-за особенностей оптимизации библиотек на GPU, вызывая неидентичные ответы на идентичные запросы.
Дофаминовая петля. Технологии, которые делают жизнь слишком удобной, способствуют попаданию людей в дофаминовую петлю (ТикТок, YouTube), что ухудшает концентрацию и вызывает тревогу. Борьба с этим требует развития дисциплины и воли, поскольку гедонистический подход едва ли приведёт к оптимальным переживаниям.