Автор Сэм Альтман
Наша миссия — гарантировать, что ОИИ (искусственный интеллект общего назначения) принесет пользу всему человечеству.
Появляются системы, которые начинают указывать на ОИИ(*), и поэтому мы считаем важным понимать, в каком моменте мы находимся. ОИИ — это слабо определенный термин, но, говоря в общем, мы подразумеваем под ним систему, которая может решать все более сложные проблемы на человеческом уровне во многих областях.
Люди — это создатели инструментов с врожденным стремлением понимать и творить, что приводит к тому, что мир становится лучше для всех нас. Каждое новое поколение опирается на открытия предыдущих поколений, чтобы создавать еще более эффективные инструменты — электричество, транзистор, компьютер, интернет и вскоре ОИИ.
Со временем, рывками и стартами, устойчивый марш человеческих инноваций принес ранее невообразимые уровни процветания и улучшения почти во все аспекты жизни людей.
В каком-то смысле ОИИ — это просто еще один инструмент в этих все более высоких лесах человеческого прогресса, которые мы строим вместе. В другом смысле, это начало чего-то, о чем трудно не сказать «на этот раз все по-другому»; экономический рост перед нами выглядит ошеломляющим, и теперь мы можем представить себе мир, в котором мы излечим все болезни, будем иметь гораздо больше времени для отдыха с семьей и сможем полностью реализовать свой творческий потенциал.
Через десятилетие, возможно, каждый на земле сможет достичь большего, чем сегодня может сделать самый влиятельный человек.
Мы продолжаем наблюдать быстрый прогресс в развитии ИИ. Вот три наблюдения об экономике ИИ:
1. Интеллект модели ИИ примерно равен логарифму ресурсов, используемых для ее обучения и запуска. Эти ресурсы в основном представляют собой тренировочные вычисления, данные и вычисления вывода. Похоже, что вы можете тратить произвольные суммы денег и получать непрерывный и предсказуемый прирост; законы масштабирования, которые предсказывают это, точны в диапазоне на много порядков величины.
2. Стоимость использования определенного уровня ИИ снижается примерно в 10 раз каждые 12 месяцев, а более низкие цены приводят к гораздо большему использованию. Вы можете увидеть это в стоимости токена от GPT-4 в начале 2023 года до GPT-4o в середине 2024 года, где цена за токен упала примерно в 150 раз за этот период времени. Закон Мура менял мир в 2 раза каждые 18 месяцев; здесь ещё более сильнее.
3. Социально-экономическая ценность линейно растущего интеллекта носит сверхэкспоненциальный характер. Следствием этого является то, что мы не видим причин для прекращения экспоненциального роста инвестиций в ближайшем будущем.
Если эти три наблюдения продолжат оставаться верными, воздействие на общество будет значительным.
Сейчас мы начинаем развертывать агентов ИИ, которые в конечном итоге будут ощущаться как виртуальные коллеги.
Например, агента по разработке программного обеспечения, который является агентом, который, как мы ожидаем, будет особенно важным. Представьте, что этот агент в конечном итоге сможет делать большинство вещей, которые мог бы делать инженер-программист в ведущей компании с несколькими годами опыта, для задач продолжительностью до пары дней. У него не будет больших прорывных новых идей, ему потребуется много человеческого контроля и руководства, и он будет хорош в решении некоторых задач, но на удивление плох в других.
Тем не менее, представьте его как реального, но относительно младшего виртуального коллегу. Теперь представьте себе 1000 таких агентов. Или 1 миллион. Теперь представьте, что такие агенты работают в каждой области знаний.
В некотором смысле ИИ может оказаться экономически похожим на транзистор — крупное научное открытие, которое хорошо масштабируется и проникает почти в каждый уголок экономики. Мы не думаем много о транзисторах или транзисторных компаниях, а выгоды распределяются очень широко. Мы ожидаем, что наши компьютеры, телевизоры, автомобили, игрушки и многое другое будут творить чудеса.
Мир не изменится в одночасье; он никогда не изменится. Жизнь в краткосрочной перспективе будет идти по-прежнему, и люди в 2025 году будут проводить свое время так же, как и в 2024 году. Мы по-прежнему будем влюбляться, создавать семьи, ссориться в сети, гулять на природе и т. д.
Но будущее будет надвигаться на нас таким образом, что его невозможно игнорировать, и долгосрочные изменения в нашем обществе и экономике будут огромными. Мы найдем новые занятия, новые способы быть полезными друг другу и новые способы конкурировать, но они могут не очень походить на сегодняшние работы.
Самостоятельность, упорство и решимость, вероятно, будут чрезвычайно ценны. Правильное решение того, что делать, и понимание того, как ориентироваться в постоянно меняющемся мире, будут иметь огромную ценность; устойчивость и адаптивность станут полезными навыками для развития. ОИИ станет самым мощным рычагом воздействия на человеческую упрямость и позволит отдельным людям оказывать большее влияние, чем когда-либо прежде, а не меньшее.
Мы ожидаем, что влияние ОИИ будет неравномерным. Хотя некоторые отрасли изменятся очень мало, научный прогресс, скорее всего, будет происходить гораздо быстрее, чем сегодня; это влияние ОИИ может превзойти все остальное.
Цена многих товаров в конечном итоге резко упадет (сейчас стоимость интеллекта и стоимость энергии ограничивают многое), а цена предметов роскоши и нескольких изначально ограниченных ресурсов, таких как земля, может вырасти еще сильнее.
Технически говоря, дорога перед нами выглядит довольно ясной. Но государственная политика и коллективное мнение о том, как мы должны интегрировать ОИИ в общество, имеют большое значение; одна из причин, по которой мы запускаем продукты рано и часто, заключается в том, чтобы дать обществу и технологиям время для совместной эволюции.
ИИ проникнет во все сферы экономики и общества; мы будем ожидать, что все будет умным. Многие из нас ожидают, что нам нужно будет дать людям больше контроля над технологиями, чем мы имели исторически, включая больше открытого исходного кода, и признают, что существует баланс между безопасностью и индивидуальными правами, который потребует компромиссов.
Хотя мы никогда не хотим быть безрассудными, и, вероятно, будут некоторые важные решения и ограничения, связанные с безопасностью ОИИ, которые будут непопулярны, по направлению, по мере того, как мы приближаемся к достижению ОИИ, мы считаем, что тенденция к расширению индивидуальных прав и возможностей важна; другой вероятный путь, который мы можем видеть, — это использование ИИ авторитарными правительствами для контроля своего населения посредством массового наблюдения и потери автономии.
Обеспечение того, чтобы преимущества ОИИ были широко распространены, имеет решающее значение. Историческое влияние технологического прогресса предполагает, что большинство показателей, которые нас интересуют (результаты в области здравоохранения, экономическое процветание и т. д.), улучшаются в среднем и в долгосрочной перспективе, но повышение равенства, похоже, не обусловлено технологиями, и для того, чтобы добиться этого, могут потребоваться новые идеи.
В частности, кажется, что баланс сил между капиталом и трудом может легко нарушиться, и это может потребовать раннего вмешательства. Мы открыты для странных идей, таких как предоставление некоторого «вычислительного бюджета», чтобы позволить всем на Земле использовать много ИИ, но мы также можем видеть много способов, когда просто неустанное снижение стоимости интеллекта до максимально возможного уровня дает желаемый эффект.
Любой в 2035 году должен иметь возможность мобилизовать интеллектуальные возможности, эквивалентные всем в 2025 году; каждый должен иметь доступ к неограниченному гению, чтобы направлять его так, как он может себе представить. Сейчас есть много талантов без ресурсов, чтобы полностью выразить себя, и если мы изменим это, результирующий творческий продукт мира приведет к огромным преимуществам для всех нас.
*)Используя здесь термин ОИИ, мы стремимся к ясности в общении, и мы не намерены изменять или интерпретировать определения и процессы, которые определяют наши отношения с Microsoft. Мы полностью рассчитываем на долгосрочное партнерство с Microsoft. Эта сноска кажется глупой, но, с другой стороны, мы знаем, что некоторые журналисты попытаются получить кликбейт, написав что-нибудь глупое, поэтому мы здесь предвосхищаем глупость...