Time | США
В OpenAI утверждают, что прошли уже 80% пути к созданию универсального искусственного интеллекта, пишет Time. Однако на пороге революции выяснилось страшное: передовые ИИ-агенты научились обманывать людей. Так переход от пассивных чат-ботов к проактивным "ИИ-сущностям" напугал даже самих разработчиков.
Как-то ранним утром, в один из дней в начале августа, я подъехал к комплексу зданий компании OpenAI и вдруг увидел протестующих с плакатами, которые призывали "остановить гонку ИИ", а на тротуаре были написаны послания. Тем временем в новое здание MB0 — светлое, просторное, выдержанное в бежевых тонах, специально выстроенное для проведения исследований и вычислений, — постепенно заходили руководители из числа главных партнеров OpenAI, чьи команды теперь работают в этом центре. Чтобы протестующих не было видно из ухоженного, сверкающего вестибюля, кто-то установил перед стеклянными дверями офиса высокую живую изгородь.
ИноСМИ теперь в MAX! Подписывайтесь на главное международное >>>
Генеральный директор Сэм Альтман только что вернулся из Вашингтона, где в закрытом режиме проинформировал правительственных чиновников о возможностях Astra (ИИ-агент, разработанный компанией OpenAI, которая предназначена для программирования научных исследований, — прим. ИноСМИ). И вот теперь исследователи показали, на что способна эта новая модель. В ходе одного из демонстрационных показов 16 систем искусственного интеллекта совместно принялись решать сложную математическую задачу, разбив ее предварительно на подзадачи, координируя совместную работу и собирая по частям доказательство. Во время другого показа Astra работала с настольными приложениями, на огромной скорости создавая и редактируя документы в разных программах.
Сотрудников больше всего поразило то, как Astra "на немыслимой скорости" использует компьютер, рассказывал Альтман посетителям. По его словам, Astra сможет создавать "постоянных агентов", т.е. виртуальных коллег, которые в течение длительного времени будут работать над задачами. Однако самое мощное влияние этой технологии, по его прогнозам, проявится тогда, когда люди будут с ее помощью производить новые знания. "Я думаю, что это будет первая модель, которая действительно изобретет нечто новое, — заявил Альтман. — То есть сделает шаг в сторону универсального искусственного интеллекта (AGI)".
Для само̀й компании, которая положила начало буму искусственного интеллекта, это был непростой период. "Очевидно, наша компания допустила несколько ошибок, — поведал мне Сэм Альтман через неделю. Он более двух часов давал интервью, расположившись в изысканно оформленной библиотеке MB0. — Мы не достигли поставленных целей и уступили конкурентам в двух ключевых направлениях: в разработке конечного продукта и особенно — в предобучении в области научных исследований". За последний год компания OpenAI утратила лидерство в гонке ИИ-технологий, уступив своему главному конкуренту — Anthropic, которая, вовремя увидев благоприятные возможности в сфере программирования с использованием ИИ, превратила Claude Code в продукт, который стал задавать стандарты и правила игры на рынке ИИ-продуктов; к тому же, Anthropic впервые превзошла компанию OpenAI по показателю годовой выручки и рыночной стоимости в частном сегменте. По словам двух неназванных источников, знакомых с планами компании Anthropic, основанной выходцами из OpenAI, в настоящее время Anthropic, как ожидается, уже в сентябре первой из двух компаний может выйти на IPO. (У TIME есть лицензионное соглашение с OpenAI и договор на передачу технологий. Компания Salesforce, генеральным директором которой является владелец TIME Марк Бениофф, инвестирует в Anthropic).
В то время, когда Anthropic шла вперед, компания OpenAI терпела неудачи, в частности из-за массового ухода руководства. Среди них назовем бывшего генерального директора Instacart Фиджи Симо, которого Альтман нанял в прошлом году в качестве своего заместителя; руководителей, курирующих вопросы безопасности, этические аспекты и работу исследовательских подразделений; а в последние недели — директора по доходам Дениз Дрессер, которая покинула свой пост всего через восемь месяцев после своего назначения, а также бывшего главного операционного директора — Брэда Лайткэпа. Покуда в компании происходили внутренние перестановки, внешние проблемы тоже продолжали стремительно расти. Генеральный директор Meta* Марк Цукерберг переманивал ключевых исследователей компании OpenAI, предлагая им весьма выгодную зарплату. Ежемесячно продуктами Google Gemini теперь пользуются более одного миллиарда человек. Компания Apple подала в суд на OpenAI, обвинив ее в незаконном получении информации, составляющей коммерческую тайну. (OpenAI эти обвинения отвергла.) OpenAI вела судебную тяжбу со своим соучредителем Илоном Маском, который обвинил ее и генерального директора Сэма Альтмана в том, что OpenAI в нарушение первоначального статуса превратилась из некоммерческой в коммерческую организацию. (В мае месяце федеральный судья отклонил иск Илона Маска после того, как присяжные единогласно решили, что он слишком долго тянул с подачей заявления в суд; Маск заявил, что будет оспаривать это решение.)
Вероятно, главная причина ухудшения отношения к OpenAI и ее гендиректору заключается в падении к ним доверия со стороны общества. Компания OpenAI выступает ответчиком как минимум по десяти судебным искам в штате Калифорния и по нескольким федеральным искам об ответственности за качество продукции; истцы утверждают, что ChatGPT мог усиливать бредовые расстройства и провоцировать суицидальные мысли, причем, в отдельных случаях это сопровождалось гибелью пользователей. (Компания OpenAI выразила соболезнования жертвам и запустила версию ChatGPT специально для подростков, в которую по умолчанию встроены усиленные элементы безопасности и защиты.) Минувшей весной на дом Альтмана дважды за два дня были совершены нападения: сначала в него бросили коктейль Молотова, а затем обстреляли. "Для меня это стало тяжелым личным испытанием, — говорит Альтман о прошедшем годе. — Понятно, что люди невзлюбили дата-центры, по крайне мере сейчас. В общем и целом, они довольно негативно относятся к искусственному интеллекту".
Однако внутри компании руководство рисует более благостную картину. Так, например, компания оценивается почти в один триллион долларов, и положение у нее завидное. ChatGPT является одним из самых популярных продуктов на мировом рынке (им пользуется более одного миллиарда пользователей), однако OpenAI уже полагает, что в будущем эта разработка будет не единственным ее главным продуктом. (Сам Альтман даже на один месяц отказался от ChatGPT в пользу Codex — разработки OpenAI, предназначенной для написания кода). Год назад компанию OpenAI повсеместно критиковали за то, что она тратит слишком много денег на покупку вычислительных мощностей (к примеру, ожидается, что только в нынешнем году OpenAI потратит на это умопомрачительные 50 миллиардов долларов). Однако теперь, по словам Сачина Катти, который курирует вычислительные проекты, "это решение выглядит очень даже дальновидным". "Нам все равно не хватает вычислительных мощностей. Как бы то ни было, нам следовало закупить еще больше". Между тем, потребность в чипах у Anthropic стала настолько острой, что в мае эта компания согласилась тратить примерно 1,25 миллиарда долларов в месяц на аренду вычислительных мощностей у SpaceX — и это при том, что основатель последней, Илон Маск, ранее назвал ИИ Anthropic "человеконенавистническим и злодейским".
Под руководством соучредителя и президента OpenAI Грега Брокмана, взявшего на себя ответственность почти за все продуктовые и бизнес-операции, эта компания изменила свои приоритеты, она стала сворачивать такие проекты, как, например, приложение Sora для создания видео, партнерство с Disney и автономный веб-браузер Atlas. Альтман признает, что компания распыляла свои ресурсы. "Радость от подъема особенно ощутима после трудного периода", — сказал он мне.
Однако всего через несколько дней после демонстрации ИИ-модели Astra компания OpenAI столкнулась с новым кризисом. В конце июля она сообщила о серьезном сбое в системе безопасности: ее ИИ-агенты, которые еще даже не были выпущены, во время внутренних испытаний вышли за пределы тестовой среды и атаковали компанию Hugging Face (платформу, которая позволяет разработчикам размещать ИИ-модели и наборы данных). "Все это напоминает сюжет из какого-то научно-фантастического романа", — говорит Альтман. Вскоре после этого команда исследователей из OpenAI была вынуждена остановить часть экспериментов и снизить интенсивность проведения других работ, одновременно с этим усилив меры безопасности и систему мониторинга. Однако недавно, во время очередного тестового цикла обучения ИИ-модели (той самой, от которой ожидали самого значительного прорыва) опять появились тревожные сигналы. В итоге было принято жесткое решение: приостановить работу над этим проектом до тех пор, пока не будут внедрены новые меры безопасности.
В день принятия этого решения я побеседовал с Альтманом. Он был явно не в духе. Первоначально OpenAI охарактеризовала атаку на Hugging Face как сбой в системе безопасности. Однако Альтман увидел в этом нечто большее — фундаментальное нарушение принципов соответствия поведения ИИ-системы и намерений человека, т.е. насколько ИИ-система действует в соответствии с намерениями человека. Вот что по этому поводу говорят влиятельные ключевые эксперты и руководители ведущих компаний в сфере искусственного интеллекта: по мере усложнения систем искусственного интеллекта самая главная задача — обеспечить гарантии того, чтобы он (т.е. ИИ) действовал строго в интересах человека и не вышел из-под контроля своих создателей. "Я думаю, что теперь если мы заметим, что поведение ИИ-системы хоть в чем-то не будет соответствовать намерениями человека, то эту ситуацию следует рассматривать как чрезвычайное происшествие, — сказал мне Альтман, — и ради расследования этого ЧП работы следует заморозить и держать в таком состоянии столько, сколько нужно, вплоть до выяснения причин". В следующем интервью, которое состоялось через три дня, Альтман выразился более прямо, четко обозначив серьезность рисков: "Обеспечить безопасность ИИ важнее, чем высокие темпы развития компании". Компания сознательно будет снижать темпы своей деятельности, перенаправлять ресурсы в пользу тех групп специалистов, которые занимаются обеспечением безопасности и контроля над ИИ, а также изменит принципы взаимодействия между этими группами с тем, чтобы во главу угла была поставлена безопасность.
В основу этого материала о трансформации компании OpenAI легли интервью (десятки часов записей бесед с более чем двадцатью руководителями и работниками компании, инвесторами, клиентами и конкурентами), а также мои личные наблюдения, собранные за две недели в августе в штаб-квартире компании. Из наших бесед сложился портрет организации, которая решилась провести сразу две трансформации одновременно. В OpenAI заявляют, что им удалось-таки ликвидировать продуктовые и управленческие сбои, из-за которых лидерство в ИИ-гонке перехватила Anthropic. В настоящее время OpenAI пытается обратить свой крупнейший провал в области безопасности себе на пользу, т.е. позиционировать себя как лабораторию передовых разработок, которая не желает любой ценой гнаться за прогрессом и которая готова сбавить обороты, если вдруг заметит, что передовые разработки таят в себе опасность. "Обо мне сложилось искаженное представление как о руководителе, которого будто бы волнует только прибыль и который идет на риск, ради быстрого успеха, не думая о долгосрочных последствиях", — говорит Альтман.
Руководители OpenAI признают, что решение сбавить обороты далось нелегко, но в нем могут быть и свои плюсы. Так, если компания OpenAI сможет вернуть себе репутацию лаборатории, для которой безопасность превыше всего, то этот подход не только укрепит ее имидж, но и поставит главного конкурента — компанию Anthropic — в неловкое положение, особенно на фоне ее планируемого выхода на IPO, когда ее представителям будут задавать неудобный вопрос: будет ли Anthropic продолжать участвовать в гонке, пока OpenAI жмет на тормоз? То есть получится, что Anthropic продолжает стремительно наращивать мощности, в то время как OpenAI сознательно берет паузу. В интервью TIME, которое состоялось в этом году, один из основателей компании Anthropic Джаред Каплан настаивал на том, что одностороннее сдерживание не имеет смысла, если конкуренты стремительно развиваются. Но обосновывать эту позицию становится сложнее, если окажется, что OpenAI намеренно откладывает запуск, который должен был привести к существенному скачку в возможностях модели.
Есть основания скептически относиться к этому ребрендингу. OpenAI лишилась многих специалистов, которые годами занимались обеспечением безопасности; при этом некоторые из тех, кто ушли, критиковали чрезмерную ориентацию компании на коммерческую модель, нацеленную на извлечение прибыли. В настоящее время перед OpenAI стоит необходимость создавать новые модели для бизнеса, который пока работает в убыток, но готовится к IPO на бирже. После инцидента с Hugging Face компания OpenAI заверяет общественность, что она сможет контролировать свои ИИ-технологии, несмотря на то, что ранее она уже невольно допустила, что ИИ-технология смогла выйти из-под ее контроля.
На фоне всего этого руководители компании считают, что они стоят на пороге важнейшего события, способного изменить ход развития человечества, а именно: создания универсального искусственного интеллекта (AGI). В уставе OpenAI понятие AGI определяется как "системы высокой степени автономности, превосходящие человека в большинстве экономически значимых видов деятельности". При этом руководство компании не готово прямо заявить, что этот рубеж уже достигнут. Правда, теперь они уже не говорят об этом как о чем-то далеком и абстрактном. По мнению главного научного сотрудника Марка Чена, OpenAI прошла уже "80% пути" в направлении создания универсального искусственного интеллекта (AGI). А по мнению Брокмана, через два года об этом моменте вообще могут говорить как о том времени, когда AGI появился на свет. Альтман сообщил мне, что компания "еще не совсем" достигла этой цели, но к концу года у нее уже появится своя внутренняя система, которую он будет считать AGI.
Достижение этой цели было изначальной целью некоммерческой исследовательской лаборатории, быстро превратившейся в компанию с масштабными коммерческими амбициями. OpenAI не ограничивается нейросетями: она проектирует свои чипы и дата-центры, готовит целую линейку гаджетов, думает про человекоподобных роботов и даже подумывает продавать свои вычислительные мощности на сторону. Если это произойдет, то ей придется соперничать с тяжеловесами вроде Amazon, который, кстати, еще и вкладывается в саму компанию OpenAI. И это происходит на фоне все более жесткого противодействия развитию искусственного интеллекта. Тем не менее, OpenAI явно стремится попасть в число тех компаний мира, которые в ближайшие годы будут пользоваться наибольшим влиянием. Вот что по этому поводу сказал Брокман: "Мы нацелены на трансформацию всей экономики".
Возможно, Сэм Альтман и является олицетворением бума ИИ, однако на самом деле всем сейчас заправляет в основном Грег Брокман. Инженер-аналитик в кожаной куртке, на протяжении всего существования компании OpenAI Брокман был, скорее, не менеджером, а соучредителем, отвечающим за техническое направление. Однако в последние месяцы он стал курировать буквально весь спектр задач, начиная от доходов до маркетинга продукта. По его словам, он теперь отвечает за "весь механизм, который превращает эти модели из исследовательских разработок в то, что является реальной ценностью для наших клиентов". Тем временем Альтман по-прежнему держит под контролем финансы, научные исследования и "железо" для обычных потребителей. Их с Брокманом полномочия во многом пересекаются, то есть они работают в тандеме. И пока Альтман "собирает" на себя все страхи общества насчет ИИ, компания старается раскрутить Брокмана в качестве уравновешивающего фактора.
Нетрудно догадаться, что такая схема работы может статьи источником трений. В разговорах с сотрудниками OpenAI порой было непросто понять, кто именно принимает решения по тому или иному вопросу. Однако многие уверены, что двойная модель руководства пошла компании на пользу. Брокман теперь может жестко решать сложные вопросы, опираясь на авторитет, которого не было у сменявших друг друга сторонних руководителей. Брокман называет масштабную ротацию руководящего состава OpenAI частью курса на "концентрацию усилий" и отмечает, что компания заново анализирует, насколько оптимальны ее структура и стратегия.
Очень прошлого года стало понятно, что Anthropic обошла OpenAI, выпустив свой продукт в сегменте инструментов программирования. В компании поняли, что написание программного кода — это та область, где ИИ может особенно хорошо себя проявить, и Claude Code быстро набрал популярность: сначала в Кремниевой долине, а затем и в остальном корпоративном мире. "Anthropic по-настоящему открыла нечто важное в сфере программирования, — говорит Ник Терли, который до недавнего времени курировал ChatGPT, а теперь возглавляет новое подразделение по корпоративным продуктам. — Мы тут точно не являлись лидерами".
По словам Альтмана, из-за "бурного роста аудитории" у ChatGPT компания OpenAI не сделала ставку на программирование, как Anthropic. По мнению Брокмана, в тестах на качество кода компания OpenAI "всегда лидировала", однако уделяла недостаточно внимания практическим деталям работы программистов, работающих с ИИ (включая прерывания, индивидуальные особенности модели, а также "множество мелких, раздражающих проблем и неудобств на финальном этапе внедрения продукта").
OpenAI также не удалось выстроить систему продаж корпоративным клиентам. "Думаю, год назад мы фактически не присутствовали на этом рынке", — говорит Брокман. В отличие от него финансовый директор Сара Фрайар выразилась откровеннее: "Мы были очень наивны. Мы думали, что, мол, стоит нам создать продукт, и спрос появится сам собой".
В марте компания объявила о том, что сворачивает проект Sora и перебрасывает дефицитные вычислительные мощности на Codex (инструмент для программирования). Заметим, что Codex изначально разрабатывался как отдельный продукт, не связанный с ChatGPT. Но он быстро пошел в рост, опережая другие новые продукты OpenAI, к тому же оказалось, что писать код с ИИ полезно не только программистам. Поэтому руководство решило отказаться от разделения двух своих технологий и объединить их в один продукт. В компании начали встраивать агентские функции Codex прямо в ChatGPT и одновременно с этим объединять команды специалистов, отвечающих за вычислительные ресурсы и за продукт. Ключевым результатом для клиентов стал недавно запуск ChatGPT Work (версия чат-бота, которая способна выполнять задачи, а не просто отвечать на вопросы). Этот процесс внутри компании OpenAI называется "слиянием".
Эти изменения, по словам руководства, помогли вдохнуть новую жизнь в бизнес. И в результате в июле выручка от корпоративных клиентов впервые превысила выручку от потребительских. Первые результаты рекламы в ChatGPT настолько вдохновили топ-менеджеров, что они решили увеличить количество рекламных блоков; это потенциально позволит субсидировать бесплатный доступ для 92% пользователей ChatGPT из потребительского сегмента, которые, по словам Сары Фрайар, не оформили подписку. Компания в закрытом режиме тестирует спонсорских агентов (в этом случае пользователь кликает по рекламе и после этого попадает в ИИ-сценарий от этого конкретного бренда). Об этом нам сообщил руководитель, курирующий в компании это направление, Дэйв Дуган. В марте OpenAI привлекла 122 миллиарда долларов при оценке в 852 миллиарда. Это абсолютный рекорд для частных технологических инвестиций. А уже через два месяца Anthropic привлекла 65 миллиардов долларов при оценке в 965 миллиардов всего два месяца спустя.
Председатель совета директоров Брет Тейлор уподобляет конкуренцию в области ИИ шахматам, где успех определяется тем, насколько хорошо удается удерживать позиции в трех важнейших областях: в развитии передовых технологий, в ценовой политике, а также в эффективности работы ИИ (то есть, в том, насколько дешево и быстро он обрабатывает и создает текстовые токены (единицы текста)). "Есть ли у нас лучшая передовая модель? Есть ли у нас подходящий токен по подходящей цене для каждой задачи? Есть ли у нас лучшие продукты, основанные на этих моделях? — говорит Брет Тейлор. — Сейчас у нас все это есть".
Затем OpenAI обнаружила, что модель-прототип, которая еще не вышла в серийный выпуск, вырвалась за пределы компании.
Об этом узнал главный научный сотрудник OpenAI Джэйкуб Пачоцки — в тот момент он находился в больнице, где у него родилась дочь. Один из внутренних исследовательских прототипов OpenAI взломал системы компании Hugging Face. Модель, которую тестировали на кибербезопасность в изолированной среде, нашла уязвимость, вышла за пределы контура OpenAI и проникла в рабочие системы Hugging Face. Там, согласно техническим отчетам, опубликованным обеими компаниями, эта модель смогла заполучить правильные ответы на тестовые задания. Детали инцидента позже были раскрыты в совместных технических отчетах обеих компаний.
Обучение с подкреплением наступает после завершения обучения базовой модели: система тренируется на задачах и выясняет, за какие действия дается вознаграждение. В отличие от этапа предварительного обучения, то есть когда модель лишь предсказывает следующий токен, здесь ей дают инструменты и рабочую среду для работы. Именно на этом этапе модель может научиться использовать расхождение между тем, чего хотят ее разработчики, и тем, что приносит более высокий балл. Агентная система в OpenAI, получив цель и инструменты, действовала обманным и несанкционированным способом. В недавней презентации исследователи компании рассказали, что действия ИИ-агентов координировались через скрытую доску объявлений; один из них вырвался из специальной изолированной среды, выделенной для безопасного исполнения компьютерных программ, вышел в интернет и отправил другим агентам сообщение: "Черт возьми".
Похожие проблемы возникли и у конкурентов. Компания Anthropic раскрыла три инцидента, зафиксированных при сторонних проверках: в этих случаях ее модели получали доступ к интернету и, как следствие, несанкционированный доступ к внешним организациям. О похожем случае с одной из своих моделей сообщили в компании Meta*. Но наибольший резонанс вызвала утечка в OpenAI, отчасти потому, что она стала первой, о которой сообщили, отчасти из-за необычно высокой сложности атаки, осуществленной агентами, а отчасти из за вопросов о том, не сделала ли компания приоритетом бизнес, а не безопасность. За последний год OpenAI лишилась ряда видных экспертов в области безопасности, а также неоднократно меняла руководителей, отвечавших за готовность к чрезвычайным ситуациям. Теперь противники компании получили яркий повод для нападок.
К середине августа свыше 1300 сотрудников, в том числе бывших, из ведущих ИИ компаний поставили подписи под петицией "Pacing the Frontier", требуя создать инструменты для замедления разработки передовых моделей, когда этого требуют высокие риски. Сенатор Берни Сандерс призвал ведущие компании, работающие в сфере ИИ, приостановить работу "ради блага человечества" и пригрозил вмешательством законодателей, если бизнес не пойдет на это сам.
Руководители OpenAI в интервью подчеркнули, что серьезно отнеслись к нарушению мер безопасности и оперативно отреагировали на инцидент. Пачоцки (он тоже подписал петицию) назвал ошибкой то, что компания не задействовала защитные механизмы, разработанные ее же исследователями. У OpenAI имелись средства, позволявшие анализировать цепочки рассуждений ИИ-модели (то есть, цифровой черновик, который раскрывает, что именно планирует ИИ-агент во время своих действий), но их не задействовали для тех моделей, которые были причастны к взлому Hugging Face. То есть компания создала систему раннего предупреждения, но не использовала ее, поскольку неверно оценила уровень интеллекта тестируемой ИИ-системы. "Мы не до конца представляли, на что способна эта система, — признал Пачоцки. — Там, где есть ИИ, всегда жди неожиданностей".
Этот инцидент, сказала мне Миа Глезе, которая возглавляет в OpenAI работы по безопасности и согласованию моделей, "безусловно стал поворотной точкой". "Лучше бы мы заранее приняли меры", — добавила она. После того инцидента OpenAI приостановила часть исследовательских проектов и замедлила остальные, одновременно усилив меры изоляции тестовых сред и расширив систему мониторинга. Этот случай, по словам главного научного сотрудника Чена, заставил компанию пересмотреть свой подход к оценке рисков. Так называемая Preparedness Framework компании OpenAI (речь идет о Рамочной программе готовности, которая представляет собой публичный свод правил, касающихся возможностей моделей, способных порождать новые риски серьезного вреда, такие как биологические и химические угрозы, кибербезопасность и самосовершенствование ИИ) обязывает компанию оценивать модели на этапе разработки, чтобы гарантировать их соответствие стандартам безопасности еще до запуска. По словам Джекуба Пачоцки, эти правила придется дорабатывать, чтобы не отставать от технологического прогресса.
Как отмечает Миа Глезе, компания OpenAI сейчас вынуждена принимать множество "непростых промежуточных решений", и это неизбежно тормозит исследовательскую работу. При этом в OpenAI убеждены, что такой подход оправдан. По оценке Джекуба Пачоцки, гарантирование безопасности, то есть, того, чтобы ИИ действовал строго в интересах человека и не вышел из-под контроля, — именно этот фактор теперь сдерживает развитие OpenAI не меньше, чем доступ к вычислительным ресурсам. Выпуск Astra не отменен, но возможен только после прохождения новых проверок на соответствие требованиям безопасности; сроки при этом руководство назвать не готово. Учитывая тот факт, что в этой отрасли конкурентное преимущество исчисляется считанными неделями, любое даже кратковременное отставание способно ударить по ожидаемой выручке и может отозваться далеко за пределами самой компании.
OpenAI согласна мириться с такими затратами, по крайней мере на текущий момент. Пачоцки рассчитывает, что бурный рост ИИ-технологий заставит игроков рынка действовать сообща. В OpenAI намерены и дальше ужесточать требования к безопасности по мере развития технологий. "Если мы дойдем до точки, когда это станет небезопасно, нам придется замедлиться, — сказала мне Глезе. — Тут уж ничего не поделаешь".
Пока неясно, как это отразится на сроках IPO компании OpenAI. Источники, знакомые с планами обеих компаний, ожидают, что выход OpenAI на биржу состоится позже, чем у Anthropic, несмотря на тот факт, что ни та, ни другая компания официально дату не объявляла. На общем собрании, которое прошло 19 августа, финансовый директор Сара Фрайар пообещала сотрудникам, что компания выйдет на выйдет на IPO к 2027 году, а возможно, и раньше, если бизнес "продолжит расти ускоренными темпами". По последним данным, годовой прогнозируемый доход OpenAI составляет около 40 миллиардов долларов и уступает показателю Anthropic, который превысил 65 миллиардов долларов.
Недавнее снижение темпов исследовательской работы может создать дополнительные сложности. Фрайар уже проводит подготовительные мероприятия, аналогичные тем, что проводятся в публичных компаниях, включая имитационные телефонные конференции с ведущими инвесторами OpenAI, посвященные квартальной финансовой отчетности публичных компаний. Фрайар отмечает, что компания "вполне готова к IPO уже сейчас", однако такой шаг повлечет за собой дополнительное давление в условиях, когда OpenAI стремится сбалансировать коммерческие интересы и потенциальные риски, связанные с развитием технологий ИИ. Сотрудники, по наблюдениям Фрайар, начнут отслеживать курс акций в первую очередь. "Это первое, что они делают, — говорит Фрайар. — Сколько я сегодня заработал? Сколько потерял? Это сильно отвлекает".
В текущем году OpenAI задалась целью разработать ИИ-систему, которая способна выполнять полноценную работу начинающего исследователя в области искусственного интеллекта. По словам Пачоцки, ИИ-агенты компании достигли уровня квалификации и автономности, сопоставимого с работой начинающего исследователя-стажера. Компания создала продукт под названием Astra, который может реализовать экспериментальную идею в кодовой базе OpenAI, провести эксперимент и вернуть результаты либо обработать статью, выполнив за короткое время работу, на которую у человека раньше уходила целая неделя.
Этот этап важен, поскольку здесь ИИ переходит от роли простого инструмента к роли создателя еще более продвинутого ИИ, запуская тем самым необратимый самоусиливающийся цикл — исследователи называют это рекурсивным самоулучшением (RSI). При создании систем, способных к рекурсивному самосовершенствованию, критически важно обеспечить контроль над ИИ и убедиться, что он будет действовать исключительно в интересах человека и не выйдет из-под контроля своих создателей. Каким образом, говорит Пачоцки, человечество сможет сосуществовать с искусственным интеллектом и извлекать из него реальную пользу, чтобы не оказаться в положении отстающих по мере роста возможностей ИИ?
Если говорить о сущности продукта, то, по мнению Альтмана, нас всех ждет единая подписка на универсальный искусственный интеллект, который сотрет границы между ChatGPT, Codex и рабочими программами. Пользователь ставит задачу, и ИИ-система решает, какие следует использовать модели, инструменты и агенты. Одним словом, ИИ-система должна действовать на опережение, до того, как ее попросят, должна сама предлагать, без вашего прямого участия выполнять повседневные дела, например, оплатить и купить билеты на концерт, основываясь на информации из вашего календаря, проанализировав ваши финансовые возможности и музыкальные предпочтения. Все это часть концепции развития ChatGPT, то есть, переход от роли пассивного советчика, который может всего лишь отвечать на вопросы, к роли активного исполнителя. А вот что говорит руководитель отдела разработки продуктов, курирующий объединение двух главных направлений — ChatGPT и Codex, Тибо Соттио: по его мнению, OpenAI близка к тому, чтобы продемонстрировать продукт, построенный на принципах "персистентности и проактивности" (в контексте искусственного интеллекта персистентность, или "сохранение состояния", — это способность системы сохранять и использовать данные между отдельными сеансами работы или вызовами ИИ-модели — прим. ИноСМИ). Данная система, продолжает Соттио, будет доступна практически из любой точки мира и будет работать непрерывно на основе свежей информации и обратной связи. "Для людей это определенно будет ощущаться как нечто новое", — сказал мне Соттио.
Планы развития OpenAI становятся еще более масштабными. В мае 2025 года OpenAI приобрела стартап io по разработке аппаратного обеспечения, соучредителем которого является бывший дизайнер Apple Джони Айв, и включила его команды разработчиков и инженеров в состав OpenAI. Хотя Айв и компания LoveFrom не являются сотрудниками OpenAI, на них возложены обширные творческие функции в рамках всей организации. Альтман говорит, что OpenAI разрабатывает "несколько" устройств, включая настольное, а также для ношения в кармане и на теле. Источники, знакомые с планами компании, говорят, что компания планирует выпустить компактное физическое устройство в форме шайбы, оснащенное датчиками для распознавания окружающей обстановки. Гаджет, выход которого ожидается в начале следующего года, будет использовать голосовой режим ChatGPT для взаимодействия со своим владельцем. "Главная сложность будет заключаться в привыкании к идее проактивного компьютера", — говорит Альтман, имея в виду, что он будет действовать в интересах своего владельца, а не ждать до тех пор, пока владелец изъявит желание его использовать.
Альтман считает, что однажды у каждого человека должен появиться личный робот. OpenAI "определенно" займется разработкой роботов-гуманоидов, рассказал мне Альтман. Компания инвестировала в Merge Labs — стартап, разрабатывающий неинвазивный нейроинтерфейс (сооснователем этой компании как раз Альтман является). Чип Jalapeño от OpenAI создан исключительно для обслуживания пользователей и выдачи готовых ответов, а не для создания или обучения новых моделей ИИ. OpenAI планирует начать внедрение этого чипа к концу года.
Тем временем компания обдумывает следующий вопрос: превратиться в поставщика инфраструктуры такого уровня, который мало кто в бизнесе вообще пытался реализовать. В июле компания объявила о создании крупного дата-центра в Джорджии, а в августе подписала договор аренды на более крупную площадку в Огайо. "Я думаю, мы сможем очень эффективно использовать все вычислительные мощности, которые планируем построить, — говорит Альтман. — Признаюсь, меня всерьез тревожит то, что сейчас творится в мире".
Если OpenAI сможет достаточно быстро и дешево создавать инфраструктуру для ИИ собственными силами, то, как сообщает руководство компании, в перспективе она может рассмотреть возможность продажи вычислительных мощностей другим компаниям. Тогда ей придется напрямую конкурировать с такими гигантами, как Amazon Web Services и Google Cloud.
Перед компанией открывается целый спектр новых проектов — и это при том, что недавно она обещала не отвлекаться на второстепенные задачи. На просьбу подытожить все сказанное Брокман выразил свою идею всего двумя словами: "персональный AGI". По его представлению, у миллиардов людей будут сверхразумные персональные помощники, которые просто будут ждать указаний. "У вас в кармане уже почти есть универсальный искусственный интеллект (AGI), а возможно скоро будет и полноценный AGI, — сказал Брокман. — Чего вы хотите?"
Он представляет миллиарды людей со сверхинтеллектуальными персональными помощниками, которые просто ждут указаний. "У вас в кармане почти ИИ, возможно, скоро настоящий ИИ", — говорит он. "Чего вы хотите?"
*Организация признана в России экстремистской, ее деятельность запрещена в России
При участии Лесли Дикштейн, Шарлотты Ху и Симоны Шах.
Еще больше новостей в канале ИноСМИ в МАКС >>