Искусственный интеллект и сингулярность

Мы публикуем фрагмент о том, как искусственный интеллект из очередной технологической новинки превращается в силу, способную радикально изменить экономику, науку и повседневную жизнь: Тоби Уолш связывает нынешний ИИ-бум с идеей сингулярности и пытается понять, действительно ли человечество стоит на пороге появления разума, который сможет превзойти нас во всем. На пороге искусственного интеллекта «То, что мы имеем сейчас, не значит, что так будет всегда. Говоря о моделях искусственного интеллекта, то, что имеем сейчас, улучшится с такой космической скоростью, с которой не развивалась ни одна предыдущая технология. Единственное, с чем мы все согласны, так это с тем, что мы живем в чертовски странное время». Стивен ФрайФрай на международном фестивале CogX Festival в сентябре 2023 года Таким образом, мы добрались до сегодняшнего дня. Сейчас невозможно открыть газету, не прочитав истории о вмешательстве искусственного интеллекта в нашу жизнь. В большинстве случаев заголовки тревожны, негативны и вызывают всеобщую истерию. Безусловно, история искусственного интеллекта все еще в процессе написания. Существующие сейчас системы искусственного интеллекта, конечно, впечатляют, а порой настораживают, но все же мы пока очень далеки от нашей конечной цели: достичь уровня человеческого интеллекта во всем его многообразии. Не сомневаюсь, что спустя 10, 50 или даже 100 лет мы достигнем ее. И, достигнув уровня человеческого интеллекта, мы, вероятно, значительно превзойдем его. Было бы невероятно самонадеянно полагать, что мы не сможем этого сделать. После всего проделанного, что такого особенного в человеческих способностях? В узкоспециализированных областях, например шахматах, чтении рентгеновских снимков или прогнозировании неисправностей, искусственный интеллект уже превзошел среднестатистического человека. Не первый раз технологии кажутся нам разрушительными. Многие из них — от парового двигателя до электричества — уже кардинально изменили наш образ жизни. Как и все предыдущие инновации, искусственный интеллект преобразует все области нашей жизни: как мы рождаемся, живем, работаем, играем и умираем. Но в одном революция искусственного интеллекта все же будет отличаться, а именно скоростью, с которой она трансформирует все вокруг. Промышленная революция заняла более 50 лет, а электрификация несколько десятилетий. Даже интернету потребовалось около десяти лет, чтобы успешно войти в жизнь, поскольку нужно было обеспечить людям доступ к сети. Но революция искусственного интеллекта — совсем другая история. Мы уже подготовили техническую базу, а вам требуется только указать URL-адрес или описать необходимые параметры для работы какого-либо сервиса искусственного интеллекта и можно приступать к работе. В сектор искусственного интеллекта инвестируются колоссальные суммы. В 2024 году ежедневно в разработку вкладывается около миллиарда долларов США. Ранее не наблюдалось сфер с такими внушительными инвестициями. Тем не менее ИИ начинают окупаться. Спустя год после запуска ChatGPT доходы OpenAI выросли с нуля до миллиарда долларов в год, а стоимость компании оценивается в 100 миллиардов долларовдолларов. В истории капитализма никогда не наблюдалось столь впечатляющего роста. Область искусственного интеллекта — самая крупная золотая лихорадка. С точки зрения прибыли и рыночной стоимости OpenAI — самая быстро растущая компания из когда-либо существовавших. Часто говорят, что мы живем в эпоху экспоненциального роста. С 1950-х годов мощность компьютеров удваивается примерно каждые два года. Это то, что мы называем законом Мура. Количество данных в сети, имеющих первостепенную значимость для таких технологий, как машинное обучение, также удваивается каждые пару лет. А многие основополагающие алгоритмы на основе трансформеров кратно увеличили производительность за последние несколько лет. Однако существует другой экспоненциальный рост, о котором мало говорят. Рост науки в целом. Ни в одной области это не ощущается так, как в секторе искусственного интеллекта. По данным ежегодного отчета Стэнфордского университета AI Index от 2024 года, количество опубликованных работ, посвященных исследованиям искусственного интеллекта, за последние пять лет удвоилось, равно как и число поданных и выданных патентов. Следовательно, ожидается, что существенная масса ограничений в существующих системах будет устранена уже в ближайшем будущем. И если это действительно так, то возникает вопрос: куда это все приведет? Сингулярность Одной из невероятно притягательных конечных целей искусственного интеллекта является технологическая сингулярность. Эта идея восходит глубоко в 1950-е к выдающемуся Джону фон Нейману, одному из отцов информатики. Он предупредил, что «постоянно ускоряющийся технический прогресс и изменения в образе жизни человека создают видимость приближения к какой-то некой сингулярности, за пределами которой привычный образ жизни уже невозможен». Недавно сингулярность начала популяризироваться благодаря писателю-фантасту Вернору ВинджуВиджу, футурологу Рэймонду КурцвейлуКурцвейлу, философу Нику БостромуБострому и другим. Сингулярность искусственного интеллекта — та точка, где будут развиты настолько умные системы, что смогут самостоятельно последовательно обновляться, улучшая свои способности. Такие усовершенствованные, более смышленые технологии смогут совершенствоваться снова и снова, создавая эффект снежного кома. В отличие от биологической эволюции, на которую потребовались тысячи лет, это рекурсивное улучшение может произойти в одночасье, создав искусственный интеллект, внезапно значительно превосходящий человеческий. Но что же препятствует дальнейшему развитию человечества? Проблема заключается в том, что мы больше не будем самыми разумными существами на планете, а люди стали доминирующим видом как раз благодаря развитым умственным способностям. Мы не были самыми быстрыми или сильными животными, но были самыми сообразительными. Мы использовали свои способности для создания языка, чтобы общаться и взаимодействовать друг с другом, мы придумали инструменты, чтобы усилить возможности мышц, и это позволило нам управлять планетой. Участью других, менее развитых интеллектуально видов, стала зависимость от человечества. Аналогичным образом, если искусственный интеллект превосходит наш, то наша участь зависит от благосклонности машин. Не то чтобы у технологий были плохие намерения. Если мы строим новый жилой комплекс и на нашем пути попался муравейник, мы просто сносим его. Муравьи не настолько важны для нас, чтобы заботиться о том, что может случиться с ними. Точно так же, как муравьи не могут противодействовать человеку, можем ли мы быть уверены, что сможем противостоять более развитому, чем наш, интеллекту? Позвольте привести несколько идей о надвигающейся сингулярности, которые помогут не впадать в панику. Во-первых, мы можем оказаться в тупике, поскольку существуют естественные пределы многих физических явлений. Альберт Эйнштейн учил нас, что невозможно превысить скорость света, а Вернер Гейзенберг — что на квантовом уровне невозможно определить одновременно положение и момент импульса частиц. Возможно, есть физические ограничения интеллекта? Мир непредсказуем, и эта неопределенность ограничивает, насколько умным вы можете быть. Не имеет значения, насколько вы умны, поскольку есть предел того, насколько хорошо вы можете играть в казино. На самом деле, самая умная вещь, которую вы можете там сделать, так это выйти оттуда! Во-вторых, неудивительно, что эрудированные люди придают огромное значение интеллектуальным способностям, но наша суперсила — не интеллект, а общество. Наша способность сплотиться и работать вместе помогла нам выполнять больше работ, чем мы могли бы выполнить в одиночку. Конечно, без интеллекта этого бы не случилось, у нас бы не было языка и возможности общаться, а следовательно, не получилось бы хорошо взаимодей ствовать друг с другом. Без нашей способности распределять задачи и решать их сообща мы не были бы такими эффективными. Большинство из нас не смогло бы выжить на необитаемом острове. Поэтому интеллект — это не то, чего нужно бояться, а то, что помогает нам выжить. В-третьих, интеллект, превосходящий человеческий, уже существует и не причинил никакого вреда. На самом деле, даже наоборот. Наш прогресс находится на таком высоком уровне благодаря этому интеллекту, превосходящему интеллект отдельного человека. Это коллективный интеллект человеческих институций, например как в корпорациях и правительствах. Ни один человек не знает, как построить атомную электростанцию, но сообща люди, которые работают в Westinghouse Electric или General Electric Hitachi, и их подрядчики обладают этими знаниями. Несомненно, сингулярность — интересная возможность. Нам действительно нужно смириться с тем, что технологии будут умнее нас, и подумать о последствиях. Но, возможно, это далеко не самый большой риск, который представляет собой искусственный интеллект. Подробнее о книге Тоби Уолша можно узнать на сайте издательства КоЛибри.