В связи с автоматизацией рутинных трудоемких задач, интенсивным удешевлением цифровых технологий и рациональностью замены сотрудников технологиями ИИ под нож пойдут многие значимые ныне профессии. Об этом написаны уже сотни драматических книг и дурной алармистской публицистики. В любом случае очевидно, что широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда. Лауреат Нобелевской премии экономист Роберт Шиллер подчеркивал, что автоматизация и цифровая экономика приведут к массовой структурной безработице, которую мы пока не можем адекватно оценить. В любом случае, как отмечает издание Axios, борьба за рабочие места среди «белых воротничков» из-за развития ИИ в США превращается в «кровавую бойню». Впервые со времен Великой депрессии 30-летние американцы живут хуже, чем в том же возрасте жили их родители. На грани исчезновения могут оказаться даже элитные профессии трейдеров и финансовых аналитиков: нейросети справляются с заданием увеличения объема портфеля не хуже живых криптоинвесторов.
Не менее тревожной выглядит перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами — холдинговыми компаниями и даже целыми отраслями экономики. А такая перспектива тоже уже просматривается. И при определенных условиях она чревата глобальными рисками. Эти риски и так уже существуют и связаны с хакерскими атаками на критическую инфраструктуру. Но хакерство — это умышленная человеческая деятельность, которая может быть изобличена и пресечена. А как быть с ИИ? Ведь, как известно, ИИ — необъяснимый, непредсказуемый и неконтролируемый.
И, может быть, опаснее всего то, что мы уже не способны в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу
Да, он хороший помощник, но на чем основана наша уверенность в том, что выводы, которые сделал ИИ, являются достоверными? Вот тут-то для человечества и начинается предчувствие Апокалипсиса, который, вполне вероятно, стоит у наших дверей. Представим себе, что из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные. В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине.
Отсюда один шаг к модели «злого ИИ», которая, как и все иные, имеет право на существование. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ. Ведь ИИ, достигший уровня суперинтеллекта, вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова, поскольку своим происхождением будет обязан не человеку, а самому себе. Этот сценарий становится все более вероятным не только в киберпанковой вселенной профессиональных футуристов. Его сегодня допускают вполне реальные политики и представители крупного бизнеса. И речь не только об опасных производствах, которые могут причинить необратимый вред человечеству и нашей планете. В разряд высокорисковых могут попасть и, казалось бы, совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания.
Другая, сегодня уже вполне обыденная сфера применения ИИ, которая вовсю используется в различных целях, — это создание цифровых личностей или цифровых двойников. Развитие технологий идентификации на основе ИИ дает прекрасные возможности для активного применения digital personalities, которые уже вовсю создаются для совершения общеуголовных преступлений и даже актов терроризма. Сфера незаконной деятельности тут огромна — это и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах, и кража денежных средств, и незаконное присвоение личной, коммерческой или государственной собственности. Круг бенефициаров тоже весьма широк: мелкие правонарушители, алчные крупные компании, транснациональные преступные группировки и даже отдельные государства. Все они могут создать цифровые личности с помощью технологий искусственного интеллекта. Всё это уже сейчас приводит к подрыву доверия к официальным властям, которые далеко не всегда способны защитить ключевые данные и алгоритмы, и сеет хаос в различных сферах жизни общества.
