30 ноября 2022 года трафик на сайте OpenAI был на уровне чуть выше нуля. Это был стартап, настолько маленький, что владельцы даже не утруждали себя отслеживанием посещаемости. Это был тихий день, последний, который компания когда-либо знала. Через два месяца OpenAI уже подвергалась наплыву более 100 миллионов посетителей, пытающихся использовать ChatGPT и разгонять ажиотаж вокруг проекта. С тех пор ничего не осталось прежним, особенно для Сэма Альтмана. В своем самом подробном интервью в качестве
CEO Альтман объясняет своt скандально известное четырехдневное увольнение, как он на самом деле управляет OpenAI, свой взгляд на президентство Трампа-Маска и его неустанное стремление к созданию искусственного общего интеллекта (AGI) — все еще теоретической следующей фазы ИИ, в которой машины смогут выполнять любые интеллектуальные задачи, которые может выполнить человек.
Ваша команда думает, что сейчас хорошее время, чтобы подвести итоги последних двух лет, объяснить некоторые события и решения и прояснить несколько моментов. Но прежде чем мы начнем, не могли бы вы снова рассказать историю учредительного ужина OpenAI? Потому что кажется, что историческая ценность этого события возрастает с каждым днем.
Все хотят красивую историю, в которой есть один момент, когда что-то произошло. Я бы сказал, что было около 20 учредительных ужинов в тот год [2015], а потом один оказался записан в канон, и все начали о нем говорить. Для меня лично самый важный ужин был с Ильей (Сутскевером) в ресторане The Counter в Маунтин-Вью. Только мы двое.
* Илья Сутскевер — соучредитель OpenAI и один из ведущих исследователей в области ИИ. Будучи членом совета директоров, он принимал участие в увольнении Альтмана в ноябре 2023 года, но через несколько дней публично выразил сожаление по поводу своего решения. Он покинул OpenAI в мае 2024 года.
А чтобы вернуться еще раньше, я всегда был очень заинтересован в ИИ. Я изучал его еще в университете. Потом я отвлекся на некоторое время, а затем в 2012 году Илья и другие создали AlexNet. Я продолжал следить за прогрессом и думал: «Черт, глубокое обучение кажется настоящим. И, похоже, оно масштабируется. Это очень, очень важно. Кто-то должен этим заняться».
* AlexNet, созданный Алексом Крижевским, Сутскевером и Джеффри Хинтоном, использовал глубокую сверточную нейронную сеть (CNN) — новый мощный тип компьютерной программы для распознавания изображений гораздо более точно, чем когда-либо, что стало толчком для значительного прогресса в ИИ.
Так что я начал встречаться с кучей людей, спрашивать, кто будет хорош для этого. Невозможно переоценить, насколько немейнстримным был AGI в 2014 году. Люди боялись разговаривать со мной, потому что я говорил, что хочу начать работу над AGI. Это было как будто бы под запретом, это могло разрушить карьеру. Но многие говорили, что есть один человек, с которым точно стоит поговорить, и это был Илья. Так что я встретил Илью на конференции, поймал его в коридоре, и мы поговорили. Я подумал: «Это умный парень». Я как-то рассказал ему о своих мыслях, и мы договорились встретиться за ужином. На нашем первом ужине он сформулировал — не теми словами, которые он бы использовал сейчас, — но в общем сформулировал нашу стратегию для построения AGI.
Что из духа того ужина сохранилось в компании сегодня?
Практически все. Конечно, появились дополнительные вещи, но идея, что мы верили в глубокое обучение, верили в конкретный технический подход для достижения цели и в способ совместной работы исследований и инженерии — для меня удивительно, как хорошо это сработало. Обычно, когда у тебя есть такие идеи, они не совсем срабатывают, и было явно несколько вещей в нашем первоначальном замысле, которые сработали совсем не так как задумывалось, например структура. Все это. Но вера в то, что AGI возможен, что это тот подход, на который стоит ставить, и что если он возможен, то это будет большим событием для общества? И это оказалось верным направлением.
* OpenAI была основана в 2015 году как некоммерческая организация с миссией обеспечить, чтобы AGI приносил пользу всему человечеству. Это позже стало проблемой.
Одной из сильных сторон первоначальной группы OpenAI была рекрутинг. Как-то вам удалось захватить рынок, привлекая к себе множество ведущих исследователей в области ИИ, зачастую с гораздо меньшими деньгами, чем у конкурентов. Какой был ваш подход?
Предложение было простым: приходите и стройте AGI. И почему это сработало — я не могу переоценить, насколько еретично было в то время сказать, что мы будем строить AGI. Так ты отсеивал 99% мира, и получал только действительно талантливых, оригинальных мыслителей. И это очень мощно. Большинство программистов делали то же самое, что и все остальные, например, 10 000-е приложение для обмена фото? Очень трудно привлечь таланты. Убедишь меня, что никто больше этого не делает, и апеллируешь к небольшой, но действительно талантливой группе? Ты получишь их всех. И они захотят работать вместе. Так что у нас был такой подход, который в то время звучал как дерзкое или, возможно, нелепое предложение, и это оттолкнуло всех опытных экспертов в этой области, но мы получили молодых, талантливых людей, которые с самого начала были хороши.
Как быстро вы распределили роли между собой?
Большинство людей работали над этим полный рабочий день. У меня была работа, так что в начале я занимался этим очень мало, а потом с каждым днем все больше и больше влюблялся в это. А к 2018 году я уже был полностью поглощен этим. Но сначала это было на добровольной основе Илья и Грег вели все, но каждый занимался своим делом.
* В 2014 году Альтман стал генеральным директором Y Combinator, стартап-акселератора, который помог запустить Airbnb, Dropbox и Stripe и другие.
* Грег Брокман — соучредитель OpenAI и ее нынешний президент.
Кажется, у вас романтичный взгляд на первые несколько лет?
Ну да, это были самые веселые годы в истории OpenAI, безусловно. Хотя сейчас тоже весело, но быть в комнате в тот момент, когда, на мой взгляд, произойдет один из величайших научных открытий, относительно влияния на мир, за всю историю? Это уникальный опыт в жизни. Если тебе очень повезет. Если невероятно повезет.
В 2019 году вы стали генеральным директором. Как это произошло?
Я пытался совмещать OpenAI и [Y Combinator] одновременно, что было очень трудно. Я просто был очарован идеей, что мы действительно построим AGI. Забавно, но я помню, как думал тогда, что мы сделаем это в 2025 году, но это было совершенно случайное число, взятое попросту на 10 лет с момента нашего старта. Раньше люди шутили, что единственное, что я делал, это входил в заседание и говорил: «Масштабируйте!» Что не совсем правда, но это было как бы основной идеей того времени.
Официальная дата релиза ChatGPT — 30 ноября 2022 года. Это кажется вам событиями миллион лет назад или всего неделю назад?
Мне исполняется 40 в следующем году. На мой 30-й день рождения я написал этот пост в блоге, и его заголовок был «Дни длинные, а десятилетия короткие». Кто-то сегодня утром написал мне и сказал: «Это мой любимый пост, я читаю его каждый год. Когда тебе исполнится 40, ты напишешь обновление?» Я смеюсь, потому что я точно не буду писать обновление. У меня нет времени. Но если бы я написал, заголовок был бы «Дни длинные, а десятилетия тоже, черт возьми, очень длинные». Так что это ощущается как очень долгое время.
Когда началась первая волна пользователей, и стало ясно, что это будет нечто колоссальное, у вас был момент «Черт, как это получилось»?
Ну, окей, несколько моментов. Во-первых, я думал, что это будет довольно хорошо! Остальная часть компании была такая: «Зачем вы заставляете нас это запускать? Это плохое решение. Оно не готово». Я не принимаю много решений типа «мы это сделаем», но это было одно из них.
У Y Combinator есть эта знаменитая графика, где ты видишь волнение от потенциала, затем исчезновение новизны, потом долгий спад, а затем скачок, когда продукт действительно находит свою нишу. И в первые несколько дней, когда [ChatGPT] начинал свою работу, пользователи были активны днем, а ночью было меньше. Команда сказала: «Ха-ха-ха, все падает». Но я научился одной вещи во время YC: если каждый раз, когда появляется новый спад, он все равно выше предыдущего пика, значит, происходит что-то совершенно другое. Это так выглядело в первые пять дней, и я подумал: «Кажется, у нас есть что-то, что мы не понимаем».
И это началось с безумной схватки за то, чтобы получить много вычислений (запросов) — которых у нас не было в то время — потому что мы запустили это без бизнес-модели или мыслей о бизнес-модели. Я помню встречу в декабре, где я как бы сказал: «Я рассмотрю любую идею о том, как мы собираемся за это платить, но мы не можем продолжать». И были некоторые действительно ужасные идеи — и ни одной хорошей. Поэтому мы просто сказали: «Хорошо, мы просто попробуем подписку, а потом разберемся». Это просто застряло. Мы запустили с GPT-3.5, и мы знали, что у нас будет GPT-4 [на подходе], поэтому мы знали, что он будет лучше. И когда я начал говорить с людьми, которые его использовали, о том, для чего они его используют, я подумал: «Я знаю, что мы можем сделать их лучше». Мы продолжали улучшать его довольно быстро, и это привело к этому [моменту] глобального медиа-мсознания, как бы вы его ни называли.
В ИИ «вычислить» обычно используется как существительное, относящееся к вычислительной мощности и ресурсам, таким как центральные процессоры (ЦП), графические процессоры (ГП) и тензорные процессоры (ТП), необходимые для обучения, запуска или разработки моделей машинного обучения. Хотите узнать, как Дженсен Хуанг из Nvidia Corp. разбогател? Вычислите.
Вы человек, который наслаждается успехом? Вам удалось по-настоящему почувствовать его или вы уже были заняты мыслями о следующем этапе масштабирования?
Очень странная вещь в моей жизни и карьере: нормальная траектория — это когда вы управляете большой успешной компанией, а затем, в 50-60 лет, устав от такой тяжелой работы, становитесь венчурным капиталистом. Очень необычно, когда сначала становишься венчурным капиталистом, потом проводишь длительную карьеру в этой сфере, а затем управляешь компанией. И в этом есть много плохих сторон, но одна вещь, которая оказалась для меня полезной, — это то, что ты получаешь странное преимущество, потому что уже знаешь, что с тобой произойдет, потому что ты наблюдал и советовал многим другим людям как пройти через это. Я понимал, что я переполнен благодарностью, но в то же время думал: "Черт, меня привяжут к ракете, и моя жизнь станет совсем другой, и не такой уж весёлой". Я очень иронично к этому относился. Мой муж рассказывает смешные истории из того периода, как я приходил домой, и он такой: "Это так круто!" А я отвечал: "Это реально плохо. Это плохо и для тебя тоже. Ты просто пока этого не понимаешь, но это реально плохо".
* В начале 2024 года Альтман вышел замуж за своего давнего партнера Оливера Малхерина, австралийского инженера-программиста. Они ожидают рождения ребенка в марте 2025 года.
Вы долго были знаменитостью в Силиконовой долине, но одним из последствий появления GPT стало то, что вы стали мировой знаменитостью с такой скоростью, как Сабрина Карпентер или Тимоти Шаламе. Это усложнило вашу способность управлять коллективом?
Это усложнило мою способность жить своей жизнью. Но в компании, независимо от того, известен ли CEO или нет, люди просто такие: "Где мои чертовы GPU?"
Я ощущаю эту дистанцию во всей своей жизни, и это реально странно. Я ощущаю это, когда нахожусь со старыми друзьями, новыми друзьями — с любым человеком, кроме тех, кто действительно близок ко мне. Наверное, я чувствую это и на работе, если я нахожусь среди людей, с которыми редко взаимодействую. Если мне нужно попасть на встречу с группой, с которой я почти никогда не встречаюсь, я как бы чувствую, что это есть. Но я большую часть времени провожу с исследователями, и, поверьте мне, придите со мной на исследовательскую встречу сразу после этой, и вы увидите только неуважение. И это круто.
Помните ли вы тот момент, когда начали подозревать, что для-прибыльная компания с миллиардами внешних инвестиций, подотчетная некоммерческому совету, может стать проблемой?
Должно было быть много таких моментов. Но тот год был таким сумасшедшим, с ноября 2022 по ноябрь 2023, что я мало что помню. Это буквально ощущалось так, будто мы построили целую компанию практически с нуля за 12 месяцев, и делали это на виду у всех. Одно из моих выводов, оглядываясь назад, это то, что все говорят, что не будут путать важное с срочным, и все обманываются из-за срочности. Так что я бы сказал, что первый момент, когда я холодно взглянул в лицо реальности — что это не сработает — был примерно в 12:05 того пятничного дня.
Когда появилась новость о том, что совет директоров уволил вас с поста генерального директора, это было шоком. Но вы кажетесь человеком с сильным EQ (эмоциональным интеллектом). Вы замечали какие-либо признаки напряжения до этого?
Я не думаю, что я человек с сильным EQ вообще, но даже для меня это было за гранью того, где я мог бы обнаружить напряжение. Знаете, у нас как бы были постоянные напряженные споры о безопасности против новых возможностей и роли совета директоров и о том, как сбалансировать все это. Так что я знал, что напряжение было, и я не человек с высоким EQ, так что, вероятно, проблем было даже больше.
Я помню то время — и я могу ошибаться в деталях — они уволили меня в полдень в пятницу. К пятнице вечером уволилась куча других людей. К концу пятницы я подумал: «Мы просто начнем новую работу по AGI». Позже в пятницу вечером некоторые из руководства сказали: «Эм, мы думаем, что можем это отменить. Успокойся, просто подожди».
В субботу утром позвонили двое членов совета директоров и хотели поговорить о моем возвращении. Сначала я был просто в ярости и сказал «нет». А потом я подумал: «Хорошо, хорошо». Мне действительно небезразлична [OpenAI]. Но я подумал: «Только если весь совет директоров уйдет». Хотел бы я поступить по-другому, но в то время мне казалось справедливым просить об этом. Потом мы действительно некоторое время не соглашались по поводу совета директоров. Мы пытались договориться о новом совете директоров. У них были некоторые идеи, которые я считал нелепыми. У меня были некоторые идеи, которые они считали нелепыми. Но я думал, что мы [в целом] соглашаемся. С субботы по воскресенье они продолжали говорить: «Почти все готово. Мы просто ждем юридической консультации, но сейчас готовятся соглашения совета директоров». Я продолжал говорить: «Я сохраняю компанию вместе. Вся власть у тебя. Ты уверен, что говоришь мне правду?» «Да, ты возвращаешься. Ты вернешься».
А потом в воскресенье вечером они шокирующе объявляют, что Эмметт Шир стал новым генеральным директором. И я подумал: «Ладно, теперь я, бл*ть, действительно закончил», потому что это был настоящий обман. Наступает утро понедельника, все эти люди угрожают уйти, а потом они говорят: «Ладно, нам нужно изменить курс».
Совет директоров заявил, что было проведено внутреннее расследование, которое заключило, что вы не были «постоянно откровенны» в ваших коммуникациях с ними. Это заявление довольно конкретное — они считают, что вы лгали или скрывали информацию — но также и расплывчатое, потому что не уточняется, что именно вы не сказали. Теперь вы понимаете, о чём шла речь?
Я слышал разные версии. Было такое мнение, что «Сэм даже не сказал совету, что он собирается запустить ChatGPT». У меня другое воспоминание и интерпретация этого. Но что правда, так это то, что я точно не говорил: «Мы собираемся запустить вещь, которая будет большим делом». Я думаю, что произошла несправедливая характеристика нескольких таких моментов. Одно, о чём я больше осознаю, — это то, что у меня были проблемы с рядом членов совета по поводу того, что я воспринимал как конфликты интересов или проблемное поведение, и они были недовольны тем, как я пытался избавиться от них из совета. Урок усвоен.
Могу предложить теорию?
Конечно.
Вы в какой-то момент поняли, что структура [OpenAI] задушит компанию, что она может убить её ещё на старте. Потому что миссионерская некоммерческая организация не могла бы конкурировать за вычислительные мощности или совершать быстрые повороты, необходимые для процветания OpenAI. Совет состоял из «оригиналистов», которые ставили чистоту выше выживания. Так что вы начали принимать решения, чтобы настроить OpenAI для конкуренции, что потребовало немного хитрости, что совет...
Я не думаю, что я делал что-то хитрое. Я бы сказал, что, в духе быстрого продвижения, совет не понимал всей картины. Было что-то о «Сэм владеет стартап-фондом, и он не рассказал нам об этом». Что произошло: из-за нашей сложной структуры OpenAI не мог владеть этим фондом, и никто, кто владеет акциями OpenAI, тоже не мог. И я оказался человеком, который не владел акциями OpenAI. Так что я временно был владельцем или генеральным партнером этого фонда до тех пор, пока не была создана структура для его передачи. У меня есть другое мнение о том, должен ли был совет знать об этом или нет. Но следовало ли дать больше ясности, чтобы коммуницировать такие вещи, где даже появляется видимость того, что что-то скрыто? Да, я приму эту критику. Но это не хитрость. Это был безумный год, правда? Компания двигалась со скоростью света в различных направлениях. Я бы порекомендовал вам поговорить с любым текущим членом совета и спросить, считают ли они, что я когда-либо делал что-то хитрое, потому что я прилагаю усилия, чтобы этого не делать.
* В состав нынешнего совета директоров OpenAI входят Альтман и:
- Брет Тейлор : (председатель): Бывший со-генеральный директор Salesforce Inc. и соучредитель FriendFeed.
- Адам Д'Анджело : Соучредитель и генеральный директор Quora Inc.
- Лоуренс Саммерс : министр финансов при Билле Клинтоне и бывший президент Гарвардского университета.
- Сью Десмонд-Хеллманн : бывший генеральный директор Фонда Билла и Мелинды Гейтс.
- Николь Селигман : бывший исполнительный вице-президент и главный юрисконсульт Sony Corp.
- Фиджи Симо : генеральный директор и председатель Instacart .
- Пол Накасоне : бывший директор Агентства национальной безопасности (2018-24).
- Зико Колтер : Специалист по информатике, специализирующийся на машинном обучении и безопасности ИИ.
Я думаю, что предыдущий состав правления был искренним в своей убежденности и беспокойстве о том, что с AGI может что-то пойти не так. Есть фраза, которую одна из членов правления сказала команде в тот уикенд, за которую люди немного подшучивают, а именно, что уничтожение компании могло бы быть согласовано с миссией некоммерческого правления. И я считаю, что именно так выглядит смелость следования своим убеждениям. Думаю, она имела это в виду искренне. И хотя я абсолютно не согласен со всеми конкретными выводами и действиями, я уважаю такую убежденность, и думаю, что старое правление действовало из ошибочной, но искренней уверенности в том, что они считали правильным. Возможно, они думали, что AGI вот-вот будет создано, и мы не проявляем к этому должной ответственности. Так что я могу уважать это, несмотря на то что полностью не согласен с деталями всего остального.
* Бывший член правления OpenAI Хелен Тонер заявила, что существуют обстоятельства, при которых уничтожение компании «на самом деле будет согласовано с миссией» правления. Альтман ранее столкнулся с Тонер, директором по стратегии в Центре безопасности и новых технологий Университета Джорджтауна, по поводу статьи, в которой она критиковала OpenAI за слишком быстрое выпущение ChatGPT. Она также похвалила одного из конкурентов OpenAI, Anthropic, за то, что те не «раздувают пламя хайпа вокруг ИИ», дождавшись с выпуском своего чат-бота.
Очевидно, вы выиграли, потому что сидите здесь. Но вас это не травмировало?
Я определенно был травмирован. Самое трудное было не пережить это, потому что можно многое сделать, находясь на четырехдневной дозе адреналина. И было очень приятно увидеть поддержку компании и более широкого сообщества. Но затем все быстро закончилось, и у был в полном опустошении. Каждый день становилось только хуже. Еще одно правительственное расследование, еще один старый член правления, который сливает фальшивые новости в прессу. И все эти люди, которые, как мне кажется, реально меня подставили и подвели компанию, ушли, а мне теперь нужно было разгребать их последствия. Это было примерно в это время года [в декабре], когда темнеет рано, холодно и дождливо, и я ходил по дому один, просто чертовски депрессивный и уставший. И это казалось таким несправедливым. Это было безумие — пережить все это и не иметь времени на восстановление, потому что дом горел.
Когда вы вернулись в компанию, не было ли у вас сомнений из-за крупных решений или анонсов, беспокоясь о том, как будет воспринята ваша личность? На самом деле, давайте скажем проще: не чувствовали ли вы, что некоторые люди могут думать, что вы плохой, а вам нужно было убедить их, что вы хороший?
Было даже хуже. Когда все прояснилось, все было в порядке, но в первые несколько дней никто ничего не знал. И я бы шел по коридору, а [люди] избегали моего взгляда. Это было как если бы у меня был диагноз неизлечимого рака. Было сочувствие, эмпатия, но [никто] не знал, что сказать. Это было действительно тяжело. Но я подумал: «У нас есть сложная работа, и я буду продолжать это делать».
Можете ли вы описать, как на самом деле управляете компанией? Как вы проводите свои дни? Например, общаетесь ли вы с отдельными инженерами? У вас есть время для прогулок по офису?
Позвольте мне посмотреть в мой календарь. Мы проводим трехчасовую встречу исполнительной команды по понедельникам, а вчера и сегодня у меня было шесть встреч один на один с инженерами. Я иду на встречу с исследовательской командой сразу после этого. Завтра день, когда у меня несколько крупных встреч по партнерствам и множество встреч по вопросам вычислительных мощностей. У меня пять встреч по наращиванию вычислительных мощностей, три встречи по продуктам, а после — большой ужин с важным партнером по аппаратному обеспечению. Вот примерно так выглядит мой график. Есть несколько регулярных встреч каждую неделю, а остальное — это то, что возникает по ходу.
Сколько времени вы тратите на общение, внутри компании и снаружи?
Гораздо больше общения внутри компании. Я не большой любитель писать вдохновляющие письма, поэтому много встреч один на один, в малых группах и много общения через Slack.
О, боже. Да благословит вас Бог. Вы погружаетесь в грязь?
Я большой любитель Slack. Там можно получить много информации в этой «грязи». Конечно, ничто не может сравниться с глубиной встречи с небольшой исследовательской командой. Но для широты понимания, о, здесь можно узнать много.
Вы уже говорили о том, как сильно вы вмешивались в процесс создания ChatGPT и определяли, как должен выглядеть пользовательский опыт. Есть ли места, где вы чувствуете, что ваша компетентность требует быть игроком, а не тренером?
На таком уровне? Не особо. Вчера вечером я ужинал с командой Sora, и у меня было несколько страниц с довольно детальными предложениями. Но это исключение. Или вот встреча после этой, у меня есть очень конкретное предложение для исследовательской команды, что им следует делать в течение следующих трех месяцев с довольно детализированными указаниями, но это тоже исключение.
* Sora — это продвинутая визуальная генеративная система ИИ OpenAI, выпущенная для публики 9 декабря 2024 года.
Мы немного говорили о том, как научные исследования иногда могут вступать в конфликт с корпоративной структурой. Вы отделили исследования от остальной компании, они находятся в другом здании, в нескольких милях от основного офиса. Есть ли в этом какой-то символический смысл?
Эм, нет, это скорее логистика, планирование пространства. В какой-то момент у нас будет большой кампус, и исследования все равно будут иметь свое собственное пространство. Защита ядра исследований действительно критична для того, что мы делаем.
Защита от чего?
Обычно компании в Силиконовой долине начинают с того, что становятся продуктовыми компаниями. Они становятся действительно хорошими в этом, вырастают до огромного масштаба. И по мере роста этого масштаба рост доходов естественным образом замедляется как процент от общей суммы. И в какой-то момент CEO приходит к идее, что ему нужно открыть научную лабораторию, чтобы генерировать новые идеи и стимулировать дальнейший рост. Иногда это работает, как в случае с Bell Labs или Xerox PARC. Обычно же получается, что компания хороша как продуктовая, но лаборатория по исследованиям оставляет желать лучшего. Нам очень повезло, что та небольшая продуктовая компания, которую мы добавили, стала одной из самых быстрорастущих технологических компаний, возможно, за всю историю — по крайней мере, за долгое время. Но это легко может поглотить магию исследований, и я не собираюсь позволять этому случиться.
Мы здесь, чтобы строить AGI и сверхразум и все, что лежит за этим. На нашем пути будет много замечательных вещей, которые могут нас отвлечь от главной цели. Я считаю, что очень важно не отвлекаться.
Как компания, вы, по сути, перестали публично говорить о AGI. Вы начали говорить об ИИ и уровнях, но при этом лично вы продолжаете говорить о AGI.
Я думаю, что термин «AGI» стал слишком расплывчатым. Если взглянуть на наши уровни, наши пять уровней, можно найти людей, которые назвали бы каждый из них AGI. И цель уровней — дать более конкретное понимание того, где мы находимся и как идет прогресс, а не рассуждать, есть ли это AGI или нет.
Какой порог, при котором вы скажете: «Окей, мы достигли AGI»?
Я думаю об этом так: когда ИИ-система может выполнять то, что делают очень квалифицированные люди в важных профессиях — я бы назвал это AGI. Есть еще много последующих вопросов: а выполняет ли она всю работу или только часть? Может ли она начать как компьютерная программа и решить, что хочет стать врачом? Может ли она делать то, что лучшие специалисты в области? Насколько она автономна? У меня нет точных ответов на все это пока что, но если вы можете нанять ИИ как удаленного сотрудника, чтобы он стал отличным программистом, я думаю, многие скажут: «Окей, это уже похоже на AGI».
Теперь мы будем все время двигать эти границы, что делает задачу сложной, но я буду придерживаться этого ответа. Когда я думаю о сверхразуме, для меня ключевое — это способность системы быстро увеличивать темпы научных открытий на планете Земля.
У вас сейчас более 300 миллионов пользователей. Что вы узнали из их поведения, что изменило ваше понимание ChatGPT?
Общение с людьми о том, что они используют в ChatGPT, а что нет, стало очень полезным для нашего планирования продуктов. Одна из вещей, которая постоянно поднималась, — это было очевидно, что люди пытались использовать ChatGPT как поисковик, и на самом деле мы не планировали этого, когда запускали продукт. И это было ужасно для этой задачи. Но это явно стало важной функцией для разработки. И честно говоря, с тех пор как мы добавили поиск в ChatGPT, я почти не использую Google. И я не думаю, что это было бы очевидно для меня, что ChatGPT заменит мой поиск в Google, до того как мы запустили его, когда у нас был только внутренний прототип.
Еще один момент, который мы узнали от пользователей: насколько сильно они полагаются на его медицинские рекомендации. Многие люди, работающие в OpenAI, получают очень трогательные письма, когда люди пишут: «Я болел годами, ни один врач не мог понять, что со мной. Я наконец ввел все свои симптомы и результаты анализов в ChatGPT — он сказал, что у меня редкое заболевание. Я пошел к врачу, и они назначили лечение, и я полностью выздоровел». Это крайний пример, но такие вещи случаются часто, и это научило нас, что люди этого хотят, и нам следует строить больше таких функций.
Ваши продукты имели разные цены, от $0 до $20 до $200 — Bloomberg сообщал о возможности ценового уровня в $2000. Как вы оцениваете технологию, которой раньше не существовало? Это исследование рынка? Или это больше «пальцем в небо»?
Мы запустили ChatGPT бесплатно, а потом люди начали его активно использовать, и нам нужно было найти способ оплачивать его использование. Я полагаю, что мы тестировали две цены, $20 и $42. Люди посчитали, что $42 — это немного многовато, но $20 их устроило. Мы выбрали цену $20. Возможно, это было в конце декабря 2022 года или в начале января 2023 года. Это не было строгим «нанять кого-то и провести исследование по ценам».
Есть и другие направления, в которых мы думаем. Множество клиентов говорят, что хотят платить по мере использования. Знаете, «в некоторые месяцы мне нужно потратить $1000 на вычисления, а в другие месяцы — совсем немного». Я достаточно стар, чтобы помнить, как мы использовали интернет через dial-up, и AOL давал 10 часов в месяц или 5 часов, в зависимости от вашего пакета. И я ненавидел это. Мне не нравилось быть ограниченным по времени, так что я не хочу такой атмосферы. Но есть и другие варианты, которые все еще могут иметь смысл, и которые связаны с оплатой по мере использования.
Как выглядит ваш комитет по безопасности сейчас? Как он изменился за последний год или 18 месяцев?
Одна из вещей, которая немного сбивает с толку, — это то, что у нас есть несколько разных направлений по безопасности. У нас есть внутренняя консультационная группа по безопасности (SAG), которая проводит технические исследования систем и представляет свои выводы. У нас есть SSC (комитет по безопасности и защите), который является частью правления. И есть DSB с Microsoft. То есть есть внутренняя группа, группа правления и совместная группа с Microsoft. Мы пытаемся понять, как все это упростить.
* Доска по безопасности развертывания, с членами от OpenAI и Microsoft, одобряет развертывание любой модели, которая превышает определенный порог возможностей.
А вы находитесь в всех трех группах?
Хороший вопрос. Так что отчеты SAG отправляют мне, но я не уверен, что я официально в составе этой группы. Но процесс такой: они создают отчет, отправляют мне. Я говорю: «Хорошо, я согласен с этим», или нет, и отправляю его в правление. SSC — я не член. DSB — я в нем состою. Теперь, когда у нас более четкое представление о том, как выглядит наш процесс безопасности, я рассчитываю найти способ упростить это.
Изменилось ли ваше представление о возможных опасностях?
Я все еще придерживаюсь тех же краткосрочных, среднесрочных и долгосрочных рисков. Я все еще считаю, что в области кибербезопасности и биотехнологий будут серьезные или потенциально серьезные проблемы в краткосрочной перспективе, которые требуют смягчения. В долгосрочной перспективе, если подумать о системе с невероятными возможностями, существует ряд рисков, которые трудно точно представить и смоделировать. Но я могу одновременно считать эти риски реальными и верить, что единственный правильный способ справиться с ними — это выпускать продукт и учиться на опыте.
* В сентябре 2024 года OpenAI признала, что ее последние модели ИИ увеличили риск их злоупотребления при создании биологического оружия. В мае 2023 года Альтман присоединился к сотням других подписантов заявления, подчеркивающего экзистенциальные риски, связанные с ИИ.
Что касается ближайшего будущего, то отрасль, похоже, пришла к единому мнению о трех возможных препятствиях для прогресса: масштабировании моделей, дефиците чипов и нехватке энергии. Я понимаю, что эти проблемы переплетаются, но можете ли вы расставить их по степени важности?
У нас есть план для каждой из этих категорий, и я чувствую себя довольно уверенно по этим вопросам. Мы продолжаем делать технические, качественные и другие достижения для повышения безопасности в масштабировании моделей. Думаю, 2025 год будет удивительным. Вы слышали о вызове ARC-AGI? Пять лет назад эта группа создала этот приз как ориентир для AGI. Они хотели сделать эталон, который будет действительно трудным. Модель, которую мы анонсируем в пятницу, прошла этот эталон. В течение пяти лет он оставался нерешенным. Он состоит из некоторых задач. При этом они сказали, что если вы наберете 85% в этой задаче, мы сочтем это «успехом». Наша система — без какой-либо дополнительной работы, просто в базовой конфигурации — набрала 87,5%. И у нас есть очень перспективные исследования и лучшие модели, которые будут представлены.
* OpenAI представила модель o3 20 декабря. Она должна стать доступной для пользователей в начале 2025 года. Предыдущая модель была o1, но, как сообщает Information, OpenAI пропустила модель o2, чтобы избежать потенциального конфликта с британским телекоммуникационным провайдером 02.
* На моем ноутбуке Альтман открыл сайт ARC-AGI, на котором отображалась серия запутанных абстрактных сеток. Абстракция — это и есть цель; чтобы «решить» сетки и достичь AGI, модель ИИ должна опираться больше на рассуждения, чем на данные, на которых она была обучена.
* Согласно ARC-AGI: «Новая система OpenAI o3, обученная на публичном наборе данных ARC-AGI-1, продемонстрировала прорывной результат 75,7% на полуприватном наборе оценок на нашем публичном лидерборде с лимитом вычислений $10k. В конфигурации o3 с высокими вычислительными мощностями (172x) результат составил 87,5%.
Мы много работаем над всей цепочкой поставок [чипов], со всеми партнерами. У нас есть компании, которые строят дата-центры и производят чипы для нас. У нас есть собственное направление разработки чипов. У нас замечательное партнерство с Nvidia — это просто невероятная компания. Мы поговорим об этом подробнее в следующем году, но сейчас пришло время масштабировать производство чипов.
Об энергии...
Ядерный синтез сработает.
Синтез сработает? На каком временном горизонте?
Скоро. Скоро мы увидим демонстрацию ядерного синтеза с положительным выходом энергии. Затем нужно построить систему, которая не ломается. Нужно масштабировать её, разработать фабрику для массового производства, получить регуляторное одобрение. Всё это займет, ну, годы. Но я ожидаю, что [Helion 20] покажет, что синтез работает, уже скоро.
* Helion, стартап в области чистой энергии, основанный Альтманом, Дастином Московицем и Ридом Хоффманом, занимается разработкой ядерного синтеза.
В краткосрочной перспективе есть ли способы поддерживать рост ИИ, не нанося ущерб климатическим целям?
Да, но ни один из них, на мой взгляд, не сравнится с быстрым разрешением строительства реакторов на основе ядерного синтеза. Я думаю, наш подход к синтезу настолько хорош, что нам следует просто стремительно двигаться в этом направлении и завершить дело.
Многие из тем, о которых вы говорите, взаимодействуют с правительством. У нас новый президент. Вы сделали личное пожертвование в размере $1 миллиона на инаугурационный фонд. Почему?
Он президент Соединенных Штатов. Я поддерживаю любого президента.
Я понимаю, почему OpenAI важно быть замеченным в поддержке президента, известного тем, что он ведет учет тех, кто его поддерживает. Но это было личное пожертвование. Дональд Трамп выступает против многих вещей, которые вы ранее поддерживали. Я не ошибаюсь, если думаю, что это пожертвование — не столько акт патриотизма, сколько акт лояльности?
Я не поддерживаю всё, что делает или говорит Трамп. Я не поддерживаю всё, что говорит или делает Байден. Но я поддерживаю Соединенные Штаты Америки и буду работать в той мере, в какой могу, с любым президентом на благо страны. Особенно ради того, что, как я считаю, является огромным моментом, который должен превзойти любые политические вопросы. Я думаю, что искусственный общий интеллект (AGI) вероятно будет разработан в течение срока этого президента, и правильно сделать это — чрезвычайно важно. Поддержка инаугурации — это, на мой взгляд, относительно небольшая вещь. Я не считаю это большим решением. Но я думаю, что мы все должны желать успеха президенту.
Он сказал, что ненавидит Закон о чипах. Вы поддержали Закон о чипах.
На самом деле, я - нет. Я думаю, что Закон о чипах был лучше, чем ничего, но не тем, что следовало сделать. Думаю, есть реальная возможность сделать что-то намного лучшее в будущем. Закон о чипах не оказался настолько эффективным, как мы все надеялись.
Илон явно будет играть какую-то роль в этой администрации. Он подает на вас в суд. Он конкурирует с вами. На конференции DealBook я видел ваши комментарии о том, что вы считаете, он выше того, чтобы использовать свою позицию для нечестных манипуляций в отношении конкурентов в области ИИ.
Да, я так считаю.
Серьёзно? Но за последние несколько лет он купил Twitter, потом пытался отказаться от покупки Twitter. Он вернул Алекса Джонса на платформу. Он вызвал Цукерберга на бой в клетке. Это лишь верхушка айсберга. Вы действительно верите, что он...
О, я думаю, он продолжит делать всякие плохие вещи. Думаю, он будет подавать на нас в суд, отзывать и подавать новые иски, и всё в этом духе. Пока что он не вызывал меня на бой в клетке, но я не думаю, что он всерьез относился к этому и с Цуком. Как вы отметили, он много говорит, начинает что-то, потом отменяет, его судят, он судит других, ссорится с правительством, его расследует правительство. Это просто Илон. Вопрос был в том, злоупотребит ли он своей политической властью, чтобы навредить бизнес-конкуренту? Я думаю, что нет. Я искренне так думаю. Возможно, я ошибусь.
Когда вы работали вместе в лучшие времена, как бы вы описали, что каждый из вас вносил в совместную работу?
Наверное, что-то вроде взаимодополняющего духа. Мы не знали точно, чем всё это обернётся, что именно мы будем делать и как это пойдет, но у нас было общее убеждение, что это важно, и это приблизительное направление, в котором нужно двигаться, корректируя курс по пути.
Какими были ваши рабочие отношения?
Я не помню серьёзных конфликтов с Илом до того момента, который привёл к разрыву. До этого, несмотря на все рассказы о том, как он кричит на людей или взрывается, я такого не испытывал.
Удивляет ли вас, сколько капитала он смог привлечь, особенно с Ближнего Востока, для xAI?
Нет. У них много капитала. Это та индустрия, которую они хотят. Илон есть Илон.
Допустим, вы правы, и у Илона и администрации есть позитивные намерения. Что самое полезное, что администрация Трампа может сделать для ИИ в 2025 году?
Создать инфраструктуру в США и как можно больше. То, с чем я глубоко согласен с президентом, это то, что удивительно, как сложно стало что-то строить в США. Электростанции, дата-центры, всё в этом роде. Я понимаю, как накапливается бюрократическая нагрузка, но это не помогает стране в целом. А особенно это не помогает, если думать о том, что нужно сделать, чтобы США лидировали в области ИИ. И США действительно нужно лидировать в ИИ.