Джером Песенти воодушевлен прогрессом в области искусственного интеллекта, но видит пределы нынешнего подхода к глубокому обучению.
Джером Песенти возглавляет разработку искусственного интеллекта в одной из самых влиятельных и противоречивых мировых компаний. Как вице-президент по искусственному интеллекту в Facebook, он курирует сотни ученых и инженеров, чья работа формирует направление компании и ее влияние на более широкий мир.
ИИ принципиально важен для Facebook. Алгоритмы, которые учатся захватывать и удерживать наше внимание, помогают сделать платформу и ее родственные продукты, Instagram и WhatsApp, более липкими и более захватывающими. И Facebook продолжает использовать ИИ для создания новых функций и продуктов, от фильтров Instagram до приложений дополненной реальности, несмотря на некоторые заметные провалы ИИ, такие как personal assistant.
Марк Цукерберг пообещал развернуть ИИ, чтобы помочь решить некоторые из самых больших проблем компании, контролируя ненавистнические речи, поддельные новости и киберзапугивание (усилия, которые до сих пор имели ограниченный успех). Совсем недавно Facebook был вынужден считаться с тем, как остановить обман, основанный на ИИ, в виде видеороликов deepfake, которые могли бы убедительно распространять дезинформацию, а также создавать новые формы преследования.
Пезенти присоединился к Facebook в январе 2018 года, наследование исследовательская лаборатория создается Янн Лекун, одно из самых больших имен в области. До этого он работал на платформе IBM Watson AI и в компании Benevolent AI, которая применяет эту технологию в медицине.
Песенти встретился с Уиллом Найтом, старшим писателем WIRED, недалеко от его офиса в Нью-Йорке. Разговор был отредактирован для длины.
УН: AI был представлен как решение для поддельных новостей и онлайн-злоупотреблений, но это может перепродать его власть. Какой прогресс вы действительно делаете там?
Джером Песенти: модерирование автоматически, или даже с людьми и компьютерами, работающими вместе, в масштабе Facebook-это очень сложная проблема. Но мы добились большого прогресса.
На раннем этапе в этой области был достигнут прогресс в понимании зрительных сцен и образов. Мы смогли применить это в последние несколько лет для распознавания наготы, признания насилия и понимания того, что происходит на изображениях и видео.
В последнее время наблюдается большой прогресс в области языка, что позволяет нам гораздо более тонкое понимание взаимодействий через язык, который используют люди. Мы можем понять, если люди пытаются запугать, если это язык ненависти, или если это просто шутка. Ни в коем случае это не решенная проблема,но есть явный прогресс.
УН: а как насчет deepfakes?
Джей Пи: мы относимся к этому очень серьезно. Мы на самом деле пошли вокруг и создали новые видео deepfake, чтобы люди могли проверить методы обнаружения deepfake. Это действительно важная задача, которую мы пытаемся решать на опережение. На данный момент это не очень важно на платформе, но мы знаем, что это может быть очень мощным. Мы пытаемся быть впереди игры, и мы привлекли индустрию и сообщество.
УН: давайте поговорим об ИИ более широко. Некоторые компании, например DeepMind и OpenAI, утверждают, что их цель-развитие “искусственного общего интеллекта"."Это то, что делает Facebook?
Джей Пи: как лаборатория, наша цель-соответствовать человеческому интеллекту. Мы все еще очень, очень далеки от этого, но мы думаем, что это великая цель. Но я думаю, что многие люди в лаборатории, включая Янна, считают, что понятие " AGI " не очень интересно и не очень много значит.
С одной стороны, у вас есть люди, которые считают, что аги-это человеческий интеллект. Но я думаю, что это немного неискренне, потому что если вы действительно думаете о человеческом интеллекте, он не очень общий. Тогда другие люди проецируют на аги идею сингулярности—что если у вас есть аги, то у вас будет интеллект, который может сделать себя лучше и продолжать совершенствоваться. Но для этого нет реальной модели. Люди не могут сделать себя более разумными. Я думаю, что люди как бы бросают его там, чтобы преследовать определенную повестку дня.
УН: лаборатория искусственного интеллекта Facebook была построена Лекуном, одним из пионеров глубокого обучения, который недавно получил премию Тьюринга за свою работу в этой области. Как вы относитесь к критикам того, что область сосредоточена на глубоком обучении, которые говорят, что это не принесет нам настоящего интеллекта?
Джей Пи: глубокое обучение и текущий ИИ, если вы действительно честны, имеет много ограничений. Мы очень далеки от человеческого интеллекта, и есть некоторые критические замечания, которые справедливы: он может распространять человеческие предубеждения, его нелегко объяснить, у него нет здравого смысла, это больше на уровне сопоставления шаблонов, чем надежного семантического понимания. Но мы добиваемся прогресса в решении некоторых из них, и эта область все еще развивается довольно быстро. Вы можете применить глубокое обучение к математике, к пониманию белков, есть так много вещей, которые вы можете сделать с ним.
УН: некоторые эксперты по ИИ также говорят о "кризисе воспроизводимости" или трудности воссоздания новаторских исследований. Вы видите в этом большую проблему?
Джей Пи: это то, что Facebook AI очень увлечен. Когда люди делают вещи, которые не воспроизводимы, это создает много проблем. Если вы не можете воспроизвести его, это много потерянных инвестиций.
Мы считаем, что воспроизводимость приносит большую ценность в этой области. Это не только помогает людям проверить результаты, но и позволяет большему количеству людей понять, что происходит,и построить на этом. Красота ИИ заключается в том, что в конечном счете это системы, управляемые компьютерами. Таким образом, это главный кандидат, как подполе науки, чтобы быть воспроизводимым. Мы считаем, что будущее ИИ будет чем-то, где он воспроизводится почти по умолчанию. Мы стараемся открыть исходный код большей части кода, который мы создаем в ИИ, чтобы другие люди могли строить поверх него.
УН: OpenAI недавно отметил, что вычислительная мощность, необходимая для продвинутого ИИ, удваивается каждые 3 с половиной месяца. Вы беспокоитесь об этом?
Джей Пи: это действительно хороший вопрос. Когда вы масштабируете глубокое обучение, оно имеет тенденцию вести себя лучше и быть в состоянии решить более широкую задачу лучшим способом. Таким образом, есть преимущество в масштабировании. Но очевидно, что темпы прогресса не являются устойчивыми. Если посмотреть на топовые эксперименты, то с каждым годом стоимость его растет в 10 раз. Прямо сейчас эксперимент может быть в семизначных числах, но он не собирается идти на девять или десять цифр, это невозможно, никто не может себе этого позволить.
Это значит, что в какой-то момент мы врежемся в стену. Во многом мы уже это сделали. Не каждая область достигла предела масштабирования, но в большинстве мест мы подходим к точке, где нам действительно нужно думать в терминах оптимизации, в терминах экономической выгоды, и нам действительно нужно посмотреть, как мы получаем максимальную отдачу от вычислений, которые у нас есть. Это мир, в который мы идем.
УН: чему вы научились, коммерциализируя ИИ в IBM с Watson? Что вы пытались скопировать, и чего вы пытались избежать, в Facebook?
Джей Пи: Watson было очень весело, и я думаю, что IBM объявила, что это коммерческий рынок, и на самом деле есть приложения. Я думаю, что это было действительно замечательно. Но там было слишком много навешивания. Я не думаю, что это послужило IBM очень хорошо.
Когда у вас есть такое место, как Facebook, это замечательно скорость использования в организации. Число разработчиков, использующих ИИ в Facebook, сейчас более чем удваивается каждый год. Итак, мы должны объяснить, что это полезно, но не перегибайте палку. Это не служит нам, чтобы утверждать, что он может делать то, что он не может. И мне не нужно перефразировать его, чтобы оправдать существование моей команды.
УН: Facebook иногда изо всех сил пытается превратить исследования ИИ в коммерческий успех, например, с M. Как вы пытаетесь более эффективно связать исследования и разработку?
Джей Пи: когда вы начинаете говорить о передаче технологий, это означает, что вы уже проиграли битву. Вы не можете просто выбрать какое-то исследование и попросить других людей попробовать запустить его в производство. Вы не можете просто бросить его через забор. Лучший способ настроить его-заставить людей, занимающихся фундаментальными исследованиями, работать с людьми, которые ближе к продукту. Это действительно организационная задача-гарантировать, что есть набор проектов, которые созревают с течением времени и приносят людей вместе с ними, а не имеют границ, где у вас есть ученые на одной стороне, и они просто бросают свои исследования через забор.
УН: какие виды новых продуктов AI мы должны ожидать от Facebook в ближайшем будущем?
Джей Пи: два основных использования ИИ сегодня в Facebook делают платформу более безопасной для пользователей и гарантируют, что то, что мы показываем пользователям, ценно для них. Но некоторые из самых захватывающих вещей, которые мы делаем, пытаются создать новые впечатления, которые возможны только с ИИ. И дополненная реальность, и виртуальная реальность могут существовать только с ИИ. Недавно мы увидели, что вы можете взаимодействовать с VR с помощью рук, что требует очень тонкого понимания того, что находится вокруг гарнитуры. Он анализирует всю сцену, используя только камеру, так что вы можете использовать свои руки в качестве контроллеров. Я также считаю, что есть огромный потенциал в том, чтобы сделать людей более творческими. Вы видите это с некоторыми конкурирующими предложениями, такими как TikTok. Многие люди создают видео и контент, естественно взаимодействуя со средой, а не будучи специалистом или видеоредактором или художником.
УН: может технологии за deepfakes может быть поставлен на такую творческую заканчивается?
Джей Пи: Совершенно верно. Мы должны знать обе стороны. Существует большой потенциал для того, чтобы сделать людей более творческими и наделить их полномочиями. Но, как мы узнали за последние несколько лет, мы должны использовать технологию ответственно, и мы должны быть осведомлены о непреднамеренных последствиях, прежде чем они произойдут.
УН: Что вы думаете об идее экспортного контроля ИИ? Может ли технология быть ограничена? Не повредит ли это полю?
Джей Пи: мое личное мнение заключается в том, что это кажется очень непрактичным для реализации. Помимо этого, однако, это может негативно повлиять на прогресс в исследованиях, заставляя работу быть менее воспроизводимой, а не более. Я считаю, что открытость и сотрудничество важны для продвижения достижений в области ИИ, и ограничение публикации или открытого поиска результатов фундаментальных исследований рискует замедлить прогресс в этой области.
Тем не менее, независимо от того, введены ли такие меры контроля, как ответственные исследователи, мы должны продолжать рассматривать риски потенциальных неправильных применений и как мы можем помочь смягчить их, все еще гарантируя, что наша работа по продвижению ИИ является максимально открытой и воспроизводимой.