Они организовывают новую компанию, OpenAI, для разработки самых продвинутых видов искусственного интеллекта (ИИ), и обязуются публиковать результаты
Словно бы в сфере ИИ не достаточно уже конкуренции — на фоне таких гигантов, как Google, Apple, Facebook, Microsoft и даже таких автомобильных компаний, как Toyota, переманивающих друг у друга разработчиков — появился еще один выход, новый прием. Это некоммерческая организация, названная OpenAI, которая клятвенно обещает публично раскрывать результаты своей деятельности, не взимать лицензионных платежей со своих патентов, то есть делает все, чтобы убрать антиутопический образ компьютеров, превосходящих человеческий разум, чего боятся многие из нас. Данная организация финансируется группой таких светил техники, как Илон Маск,Рид Хофман, Питер Тиль,Джессика Ливингстон и Amazon Web Services. Они дали коллективное обязательство выплатить более одного миллиарда долларов в течение длительного периода времени. Сопредседателями организации являются Маск и Сэм Альтман, главный исполнительный директорY Combinator, чья исследовательская группа также является основателем (равно как и сам Altman).
Что касается Маска, это не удивительно, он - известный критик ИИ. Но Y Combinator? Эта компания является техническим бизнес-акселератором, основанным 10 лет назад как проект-сумматор, финансировавший шесть стартапов, основатели которых получали зарплату, хватавшей для того, «чтобы не умереть с голоду», и ценные рекомендации для быстрого наращивания их бизнеса. С тех пор YC помогла почти 1000 компаниям, включая Dropbox, Airbnb и Stripe, а совсем недавно открыла свой собственный исследовательский отдел. Последние два года YC руководил Альтман, чья компанияLoopt в 2005 году была начального класса, а затем в 2012 году продана за 43 миллиона 400 тысяч долларов. Хотя YC и Альтман являются основателями, а Альтман – сопредседателем компании, OpenAI представляет собой отдельное независимое предприятие.
OpenAI, главным образом, является исследовательской лабораторией, предназначенной для противодействия крупным корпорациям, чей главный интерес – извлечение прибыли, и которые могут получить слишком много власти, если будут владеть супер-интеллектуальными системами, а также правительствам, которые могут использовать ИИ также для концентрации власти в своих руках и даже для притеснения граждан. Прозвучит нереально, но фирме уже удалось переманить несколько ключевых фигур, в том числе, бывшего технического директора StripeГрега Брокмана (который будет техническим директором OpenAI), исследователя мирового класса Илью Суцкевера, бывшего сотрудника Google и одного из молодых ученых, учеников пионера нейросетей, Джофа Хинтона из Торонто. В OpenAI он займет должность директора по исследованиям. Остальные из линейки топ-менеджмента - это молодые таланты, чья биография уже отмечена участием в основных научных сообществах, Facebook AI иDeepMind, AI. Google хвалила их еще в 2014 году. Звездный совет директоров состоит также из советников, включая Алана Кея, пионера науки вычислительной техники.
Я(Steven Levy) беседовал с руководителями OpenAI о проекте и его устремлениях. Интервью проводилось в два этапа, участником первой беседы был Альтман, затем я вел беседу уже с Альтманом, Маском и Брокманом. Я соединил обе беседы и внес кое-какие правки для экономии места и большей четкости.
С чего все началось?
Sam Altman:
Мы открыли YC Research относительно недавно, но я, впрочем, как и Илон, размышляли об ИИ уже очень давно. Если Вы задумываетесь о самых важных вещах для будущего всего мира, думаю, верхняя строчка этого списка, скорее всего, будет принадлежать дружественному ИИ. Поэтому мы планируем создать OpenAI. Организация стремится разработать дружелюбный человеку ИИ. А поскольку она некоммерческая, то принадлежать будет всему миру.
Elon Musk:
Как Вы знаете, долгое время у меня были сомнения относительно ИИ. Я много разговаривал с Сэмом и Ридом (Хофманом), Питером Тилем и другими. И мы просто думали, «Есть ли такой способ, гарантирующий или хотя бы увеличивающий вероятность того, что ИИ будет развиваться в благоприятном направлении?». И после множества бесед мы пришли к выводу, что создание некоммерческой организации со статусом501c3(специальной некоммерческой организации в соответствии с федеральным законом США, прим.перев.), не направленной на максимизацию прибыли, возможно, было бы неплохим решением. Мы также собираемся сфокусироваться, в первую очередь, на безопасности.
Затем, с философской точки зрения, здесь также важен вопрос масштаба распространения ИИ. В этой связи можно подумать над двумя путями – хотим ли мы множество ИИ или небольшое количество ИИ? Думаю, что множество ИИ – это хорошо. Это хорошо и с точки зрения возможности расширения индивидуальной человеческой воли.
Человеческая воля?
Musk:
Если представить, что ИИ является расширением Вас, то каждый человек, по существу, живет в симбиозе с ИИ, что противоположно ИИ централизованного обширного разума, который представляет собой нечто иное. Представьте, что Вы используете приложения в Интернете, вашу электронную почту и аккаунты в социальных сетях вместе с приложениями на телефоне. Все это вместе делает вас сверхчеловеком, и Вы не думаете о них как о чем-то отдельном от Вас, Вы считаете их расширением своего Я. Поэтому, до тех пор, пока это возможно, мы бы хотели вести разработку ИИ в этом направлении. И мы уже нашли немало инженеров и исследователей со схожим видением в отношении ИИ.
Altman:
Мы думаем, что лучше всего развивать ИИ в направлении наращивания возможностей конкретного человека, делая людей лучше, а также открытия доступа всем, а не какой-то конкретной единице, которая будет в миллион раз могущественнее любого отдельно взятого человека.
Разве Google не раскрывает результаты своих разработок общественности, как в случае с машинным обучением?
Altman: Они, конечно же, раскрывают, многое из своих исследований. Но с течением времени и по мере приближения к чему-то, что превосходит человеческий разум, возникает вопрос, в каком объеме Google будет раскрывать информацию.
А специалисты OpenAI могли бы добиться получения ИИ, превосходящего человеческий разум?
Altman:
Я рассчитываю, что смогут, но разработка будет в открытом доступе, и каждый сможет использовать ее, а не только, скажем, компания Google. Все, что разрабатывает группа, будет доступно каждому. Если Вы воспользуетесь разработкой и переориентируете ее, Вам уже не нужно делиться своей разработкой. Но любая работа, которую мы выполняем, будет доступна каждому.
Допустим я – доктор Зло, и я использую вашу разработку, будете ли Вы наделять меня сверхспособностями?
Musk: Думаю, это отличный вопрос, это как раз то, о чем мы спорили.
Altman: На этот счет есть несколько различных мнений. Точно так же, как люди защищены от Доктора Зло тем фактом, что большинство людей добрые, а коллективная сила человечества может состоять и из плохих людей, мы думаем, что намного более вероятно, что множество-множество ИИ будут предпринимать действия, чтобы остановить случайных плохих игроков, нежели если будет один ИИ, в миллиард раз сильнее любого из нас. И если эта уникальная сущность выйдет из-под контроля, тогда мы, действительно, будем в нехорошем положении.
Будет ли у OpenAI какой-то надзорный орган, контролирующий разработки организации?
Altman: Мы планируем создать такой орган с течением времени. Сначала этим заниматься будем только Илон и я. Мы все еще очень далеки от фактической разработки реального ИИ. Но думаю, у нас еще много времени, чтобы организовать такой контролирующий орган.
Musk: Я собираюсь провести некоторое время с командой, в основном, выделяя послеполуденное время один раз или два раза в неделю, чтобы узнать новости или поделиться своими новостями, глубже понимать состояние дел с ИИ, и насколько мы близки к чему-то, что может представлять опасность. Я лично буду проявлять максимальную сознательность в вопросах безопасности. И если мы увидим что-то, что по нашему мнению может представлять риск для безопасности, мы намереваемся сообщать об этом общественности.
Можете привести пример с плохим ИИ?
Altman: Вся научная фантастика последних лет на этом построена, например, Терминатор или что-то наподобие. В краткосрочной перспективе меня это не беспокоит. Думаю, одна проблема возникнет в будущем – хотя это не относится к вопросу плохого ИИ – я говорю о масштабной автоматизации и исчезновении необходимости работать. Еще один пример плохого ИИ, который обсуждается сейчас многими, - это программы, схожие с ИИ, которые будут проникать в компьютеры, превосходя интеллект отдельного человека. Это то, что происходит уже сейчас.
То есть, Вы начинаете разработку системы, которая уже создана?
Altman: Нет. Мы начнем с того, с чего начинается любая исследовательская лаборатория, и долгое время будем действовать как научная лаборатория. Пока еще никто не знает, как создать ИИ. У нас есть восемь исследователей, которые приступят к работе в скором времени, и еще несколько присоединятся к ним в течение следующих нескольких месяцев. Они будут выдвигать различные идеи и писать программы, чтобы посмотреть, под силу ли им изменить существующее состояние дел с ИИ или нет.
А разработчики со стороны смогут вносить свой вклад?
Altman: Разумеется. Одним из преимуществ создания полностью открытой программы является то, что лаборатории могут сотрудничать с любым лицом, поскольку информацией можно обмениваться без ограничений. Очень тяжело работать со специалистами Google, поскольку на них накладывается большое количество обязанностей по соблюдению конфиденциальности.
Сэм, учитывая, что OpenAI первоначально будет базироваться в офисе YC, будут ли Ваши стартапы иметь доступ к работе OpenAI? [ОБНОВЛЕНИЕ: Сейчас, Альтман уже говорит, что офис будет базироваться в Сан-Франциско].
Altman: Если OpenAI разработает действительно стоящую технологию, и каждый сможет использовать ее бесплатно, то любая ИТ-компания сможет использовать ее себе во благо. Но не более того. Тем не менее, мы собираемся просить компании YC раскрыть данные OpenAI на свое усмотрение. Также и Илон. Он собирается выяснить, какие данные компания Tesla и SpaceX могут предоставить.
Какие это могли быть данные, которые можно было бы раскрыть?
Altman: Много чего. Все данные Reddit могли быть очень полезны в качестве набора данных для обучения, например. Можете представить, насколько ценна видео-информация от самоуправляемых машин Tesla. Большое количество данных имеет ценность для нас. Если подумать, как люди становятся умнее: Вы читаете книгу - становитесь умнее, Я читаю книгу - становлюсь умнее. Но мы оба не станем умнее от книги, которую прочитал другой человек. А если взять в качестве примера машины Tesla, то здесь если новое условие стало известно для одного автомобиля, то каждая машина сразу же начинает использовать это знание.
Musk: Если говорить в общем, у нас нет сейчас какого-то конкретного плана, поскольку в действительности мы находимся только на начальном этапе организации компании; стадии зародыша. Однако, разумеется, у Tesla есть огромное количество данных, данных реального мира, накопленные за миллионы миль, пройденных за день всем парком наших машин. Возможно, у Tesla сейчас намного больше данных о реальном мире, чем есть у любой компании на всем земном шаре.
ИИ требует множества вычислений. Какая инфраструктура будет заложена у Вас?
Altman: Нашим партнером является компания Amazon Web Services. Они безвозмездно предоставят нам большой объем инфраструктуры для нашей разработки.
И под эти цели будет заложен миллиард долларов?
Musk: Честно сказать, мы заложили в действительности больше миллиарда. Не хотелось бы приводить точные суммы, но мы получили значительные средства, вложенные всеми лицами, упомянутыми в этом блоге.
На какой срок?
Altman: В зависимости от того, сколько займет времени создание. Мы будем максимально экономны, но, возможно, этот проект растянется на многие десятилетия, потребуется много людей и технических средств.
И Вы не собираетесь зарабатывать?
Musk: Правильно. Вложения не направлены на извлечение прибыли. Получение дохода возможно в будущем так же, как в случае с получением дохода Стэндфордским исследовательским институтом, имеющим статус501c3. Поэтому, в будущем получение дохода возможно, но это не связано с прибылью. Это не та прибыль, которая направлена на обогащение дольщиков, мы не будем продавать акции или что-либо в этом роде. Мы думаем, так будет лучше.
Илон, ранее Вы уже инвестировали в компанию по разработке ИИ, DeepMind, по тем же причинам, на мой взгляд, - чтобы убедиться, что ИИ будет контролироваться. Затем Google купила эту компанию. То, что происходит сейчас, - это вторая попытка?
Musk: Должен сказать, что в привычном смысле слова, я не являюсь инвестором. Я не стремлюсь инвестировать ради выручки. Я вкладываю в компании, которые помогаю создать, и я мог бы инвестировать, чтобы помочь другу или ради дела, в которое я верю, или во что-либо, что представляет для меня интерес. Я, действительно, не вкладываю в другие компании, за исключением собственной, в материальном смысле этого слова. Но, да, мой вид «инвестирования» в DeepMind был сделан, чтобы просто лучше понять ИИ и, если можно так выразиться, понаблюдать за ним со стороны.
Теперь Вы собираетесь побороться за лучших ученых, которые могут также уйти в DeepMind, Facebook или Microsoft?
Altman: Мы продолжаем нанимать специалистов. То, что на самом деле привлекает исследователей, - это свобода, открытость и возможность делиться результатами своей работы, то есть все, что не доступно в том же объеме в других исследовательских лабораториях. Мы смогли привлечь так много высококвалифицированных специалистов в начальную группу, что теперь и другие хотят к нам присоединиться, чтобы работать в этой команде. И, в конечном итоге, я думаю, что наша миссия, видение и организация компании, действительно, привлекают людей.
Сколько исследователей Вы хотите привлечь, в итоге? Сотни?
Altman: Возможно.
Я бы хотел вернуться к идее о коллективном использовании ИИ, возможно, мы пострадаем сильнее от негативных последствий такого использования. Есть ли риск того, что, делая ИИ более доступным, Вы усиливаете потенциальные риски?
Altman: Я провел многие часы, рассуждая с Илоном и другими людьми на эту тему, и я все еще не уверен на сто процентов. На сто процентов уверенным в чем-то быть нельзя, правильно? Но давайте проиграем другие сценарии. Безопасность, обеспеченная секретностью технологии, не так часто срабатывала. Если только одному лицу можно быть владельцем, как Вы решите, кто должен быть им: Google, правительство США или Китая или Стэндфордский институт? В мире есть много плохих людей, но человечество все еще продолжает процветать. Но что произойдет, если один из таких людей станет в миллиард раз более могущественным, чем другие?
Musk: Я думаю, что наилучшей защитой от злоупотребления ИИ, - это позволить наделить возможностями ИИ как можно больше людей. Если у каждого индивида будут возможности ИИ, тогда никто из них, ни даже какая-то группа лиц, не будет обладать сверхсилой ИИ.
Илон, Вы являетесь исполнительным директором двух компаний и председателем совета директоров третьей. Думаю, у Вас не будет много времени на еще один проект.
Musk: Да, это правда. Но безопасность ИИ беспокоит меня уже довольно долгое время, поэтому, я найду компромисс, чтобы прийти к душевному равновесию.
Оригинал статьи:https://goo.gl/g2NWaU
Автор перевода - https://t.me/gaia_tamrazian
P.S. Подписывайтесь на мой канал в Telegram, если вам понравилась эта статья.
