Компания была создана для того, чтобы использовать искусственный интеллект в науке, способной изменить мир, и добилась этого с помощью AlphaFold. Но появление больших языковых моделей ставит серьёзные вопросы о будущем DeepMind.
Никто не мог бы упрекнуть Демиса Хассабиса в том, что он ставит перед собой недостижимые цели.
В 2016 году компания DeepMind, соучредителем которой он был, потрясла мир, когда созданная ею модель искусственного интеллекта обыграла лучшего игрока-человека в стратегическую игру го. Затем Хассабис поставил перед собой ещё более амбициозную цель: в 2019 году он сказал коллегам, что его цель — получить Нобелевскую премию с помощью инструментов искусственного интеллекта компании.
Хассабису и Джону Джамперу из DeepMind потребовалось всего пять лет, чтобы получить долю Нобелевской премии по химии 2024 года за создание AlphaFold — искусственного интеллекта, который произвёл революцию в прогнозировании структуры белков.
AlphaFold — лишь один из череды научных успехов, которых DeepMind добилась за последнее десятилетие. Когда в 2010 году Хассабис, нейробиолог и разработчик игр, стал соучредителем компании, его целью было создать «научную исследовательскую лабораторию мирового уровня, но в сфере промышленности». В рамках этой цели компания стремилась применять научный метод для разработки ИИ, делая это этично и ответственно, предвидя риски и снижая потенциальный вред. Согласно сообщениям СМИ, создание совета по этике в сфере ИИ было одним из условий, на которых компания согласилась быть приобретённой Google в 2014 году примерно за 400 миллионов долларов США.
Сейчас Google DeepMind пытается повторить успех AlphaFold в других областях науки. «Сейчас мы применяем ИИ практически во всех научных дисциплинах», — говорит Хассабис.
Но ситуация с этим союзом науки и промышленности кардинально изменилась после выпуска ChatGPT в 2022 году — события, которое Хассабис называет «моментом пробуждения». Появление чат-ботов и больших языковых моделей (БЯМ), на которых они работают, привело к резкому росту использования ИИ в обществе, а также к тому, что всё больше хорошо финансируемых конкурентов стремятся создать искусственный интеллект общего назначения (AGI) человеческого уровня.
Google DeepMind сейчас стремится выпускать коммерческие продукты, в том числе итерации больших языковых моделей Gemini, почти еженедельно, продолжая при этом исследования в области машинного обучения и создавая модели для конкретных научных задач. Из-за такого ускорения стало сложнее заниматься ответственным ИИ, и некоторые сотрудники недовольны более коммерческим подходом компании, как рассказали несколько бывших сотрудников.
Всё это заставляет задуматься о том, в каком направлении движется DeepMind и сможет ли компания добиться таких же впечатляющих успехов в других областях науки.
Нобелевская премия
В элегантной штаб-квартире Google DeepMind в лондонском технологическом центре Кингс-Кросс в холле для посетителей стоят блестящие геометрические скульптуры и пахнет эспрессо. Время настолько ценно, что сотрудники — а их, по некоторым оценкам, от 500 до 1000 по всему миру — могут взять скутер и промчаться несколько сотен метров от одного офиса до другого.
Это далеко от скромных истоков компании, которая стремилась создать универсальные системы искусственного интеллекта, объединив идеи из области нейробиологии и машинного обучения. «Они были просто супергениями, — говорит Джоанна Брайсон, специалист по информатике и исследователь в области этики искусственного интеллекта в Школе Херти в Берлине. — Эти 12 парней были всем, чего хотели».
Лаборатория стала первопроходцем в области искусственного интеллекта на основе глубокого обучения, который использует смоделированные нейроны для изучения взаимосвязей в данных на основе реальных примеров, а также в области обучения с подкреплением, при котором модель обучается методом проб и ошибок с вознаграждением. После применения этих методов для обучения моделей игре в аркадные игры в 2015 году и освоению древней игры го в 2016 году DeepMind обратилась к своей первой научной задаче — прогнозированию трёхмерной структуры белков на основе входящих в их состав аминокислот.
Хассабис впервые столкнулся с загадкой структуры белка, когда учился в Кембриджском университете в Великобритании в 1990-х годах. Он отметил, что это проблема, которую однажды сможет решить искусственный интеллект. Для обучения ИИ требуется база данных с примерами, а также чёткие показатели успешности, которые определяют прогресс модели. Благодаря давно существующей базе данных с известными структурами и организованному конкурсу, в котором оценивалась точность прогнозов, у белков было и то, и другое.
Свёртывание белка стало для Хассабиса важным достижением: это проблема «корневого узла», решение которой открывает возможности для дальнейших исследований и применения. Такие проблемы «стоят того, чтобы потратить на них пять или десять лет, множество компьютеров и исследователей», — говорит он.
Компания DeepMind выпустила первую версию AlphaFold в 2018 году, а к 2020 году её производительность намного превысила производительность инструментов любой другой команды. Сегодня дочерняя компания DeepMind, Isomorphic Labs, стремится использовать AlphaFold для разработки лекарств. База данных AlphaFold от DeepMind, содержащая более 200 миллионов прогнозов структуры белков, использовалась в различных исследованиях: от повышения устойчивости пчёл к болезням в условиях глобального сокращения популяции до поиска противопаразитарных соединений для лечения болезни Шагаса — потенциально опасной для жизни паразитарной инфекции.
Наука — это не просто источник проблем, которые нужно решить. Компания старается подходить к разработке ИИ с научной точки зрения, говорит Пушмит Коли, возглавляющий научную деятельность компании. По его словам, исследователи, как правило, возвращаются к основам при решении каждой проблемы и пробуют новые методы. Сотрудники многих других компаний, занимающихся ИИ, больше похожи на инженеров, которые применяют изобретательность, но не делают фундаментальных открытий, говорит Джонатан Годвин, исполнительный директор компании Orbital Materials, занимающейся ИИ, в Лондоне, который до конца 2022 года работал исследователем в Google DeepMind.
Но повторить успех AlphaFold будет непросто: «Немногие научные проекты работают так же», — говорит Годвин.
Разгадка генома
По словам Кохли, Google DeepMind направляет свои ресурсы на решение нескольких проблем, которые, по мнению компании, могут быть решены с помощью ИИ и которые могут оказать «преобразующее воздействие». К ним относятся прогнозирование погоды и ядерный синтез, который может стать экологически чистым и неисчерпаемым источником энергии. Компания выбирает проекты с помощью строгого процесса отбора, но отдельные исследователи могут сами выбирать, над чем работать и как решать ту или иную проблему, говорит он. Для моделей ИИ, которые работают над решением таких проблем, часто требуются специализированные данные, а исследователи должны закладывать в них знания.
По словам Кохли, одним из перспективных проектов является AlphaGenome, запущенный в июне в попытке расшифровать длинные участки некодирующей ДНК человека и предсказать их возможные функции. Но задача сложнее, чем для AlphaFold, потому что каждая последовательность имеет несколько возможных функций.
Наука о материалах — ещё одна область, в которой, как надеется компания, ИИ может совершить революцию. Материалы сложно моделировать, поскольку сложные взаимодействия атомных ядер и электронов можно лишь приблизительно описать. Изучив базу данных смоделированных структур, DeepMind разработала свою модель GNoME, которая в 2023 году предсказала существование 400 000 потенциально новых веществ. Сейчас, по словам Кохли, команда использует машинное обучение, чтобы разработать более эффективные способы моделирования поведения электронов, основанные на примерах взаимодействия, а не на физических принципах. Конечная цель — предсказывать свойства материалов, такие как магнетизм или сверхпроводимость, говорит он. «Мы хотим увидеть эпоху, когда ИИ сможет создавать любые материалы с любыми волшебными свойствами, если это возможно», — говорит он.
У моделей ИИ есть целый ряд известных проблем с безопасностью: от риска использования для создания биологического оружия до сохранения расовых и гендерных предубеждений. Эти проблемы выходят на первый план, когда модели попадают в открытый доступ. В Google DeepMind есть специальный комитет по вопросам ответственности и безопасности, который работает во всей компании и с которым консультируются на каждом крупном этапе разработки, говорит Анна Койвуниеми, которая руководит «ускорителем воздействия» — проектом по поиску в обществе областей, в которых ИИ может изменить ситуацию. Члены комитета подвергают идею стресс-тестированию, чтобы понять, что может пойти не так, в том числе с помощью внешних консультантов. «Мы относимся к этому очень, очень серьёзно», — говорит она.
Ещё одно преимущество компании заключается в том, что её исследователи работают над созданием такого ИИ, который в конечном счёте нужен всему миру, говорит Годвин. «На самом деле людям не нужны случайные видео с их участием, которые генерируются и выкладываются в социальных сетях. Им нужна безграничная энергия или возможность излечивать болезни», — говорит он.
Но теперь у DeepMind есть конкуренты в стремлении использовать ИИ в науке. Некоторые компании, которые начинали с создания больших языковых моделей, похоже, разделяют взгляды Хассабиса на ИИ в науке. За последние два месяца и OpenAI, и парижская компания Mistral, специализирующаяся на ИИ, создали команды, занимающиеся научными открытиями.
Проблемы компании
Для компаний, занимающихся искусственным интеллектом, и исследователей выпуск ChatGPT компанией OpenAI в 2022 году изменил всё. По словам Хассабиса, успех ChatGPT «стал неожиданностью для всех».
После этого переломного момента в 2023 году DeepMind объединилась с Google Brain, другой крупной исследовательской группой Google в области искусственного интеллекта, чтобы централизовать свой опыт в области искусственного интеллекта и конкурировать с другими компаниями в развертывании LLM. Недавно созданная Google DeepMind запустила первый коммерческий LLM от Google, Gemini, в декабре 2023 года. Ускорение разработки искусственного интеллекта означает, что у фирмы теперь есть коммерческий императив, а также исследовательский, говорит Хассабис.
С одной стороны, это означает увеличение инвестиций, вычислительных ресурсов и интенсивности работы. С другой стороны, из-за этого становится сложнее сосредоточиться на исследованиях как таковых, прогнозировать влияние технологий и ответственно подходить к их внедрению, говорит он. «Это сложнее сделать, когда ты вовлечён в этот коммерческий круговорот», — добавляет он.
По словам Годвина, этот сдвиг означает усиление конкуренции за таланты, и компания была вынуждена сделать упор на инженерную культуру, чтобы оставаться на передовой. Однако, по его словам, исследователи Google DeepMind, работающие над искусственным интеллектом в научных целях, сталкиваются с меньшим количеством коммерческих требований, чем их коллеги, работающие над другими проектами.
Есть некоторые свидетельства того, что возросшая конкуренция также повлияла на открытость компании в отношении публикации своих работ. Николас Карлини, исследователь в области безопасности ИИ, который перешёл в Google DeepMind из Google Brain во время слияния, уволился в начале этого года, заявив в открытом письме, что публиковаться в компании стало сложнее. Доля статей, соавторами которых являются исследователи из DeepMind, Google Brain или Google DeepMind, например, на трёх ведущих конференциях по искусственному интеллекту — NeurIPS, ICLR и ICML — снизилась с 10,5 % на пике в 2018 году до 4,5 % в 2024 году, хотя общее количество статей, написанных этими исследователями, за эти годы резко возросло (см. «Результаты исследований DeepMind»).
Некоторые сотрудники также возражали против решения Google DeepMind, принятого в феврале, исключить из своих «принципов ИИ» обязательство не использовать ИИ для слежки или создания оружия.
В апреле газета Financial Times сообщила, что около 300 сотрудников компании в Великобритании собираются вступить в профсоюз в знак протеста против позиции компании в отношении военного вмешательства.
«Обновления в наших принципах в области ИИ — это не кардинальные изменения, — сообщил представитель Google DeepMind изданию Nature, — а скорее возможность для более тесного взаимодействия. Наше основное обязательство — использовать ИИ там, где преимущества существенно перевешивают риски, — остаётся неизменным». Представитель также сообщил, что компания регулярно обновляет правила, «чтобы наши команды могли публиковаться и вносить свой вклад в более широкую исследовательскую экосистему». По подсчётам компании, доля её работ, принятых к публикации на ведущих конференциях по искусственному интеллекту в 2024 году, была примерно такой же, как и в среднем за длительный период. Для этого расчёта использовались ежегодные публикации нынешних сотрудников Google DeepMind.
Как и другие компании, занимающиеся искусственным интеллектом, Google DeepMind использует AGI — несколько расплывчатый термин, обозначающий систему, достаточно ресурсную, чтобы преуспеть в решении любой когнитивной задачи. Многие компании, специализирующиеся на LLM, делают ставку на то, что AGI может быть достигнут за счет масштабирования этих моделей, увеличения объема данных и доступных вычислительных мощностей до тех пор, пока они не разовьют навыки, достаточно общие для решения любой задачи.
Но для этого, по словам Хассабиса, вероятно, потребуются новые концептуальные прорывы в области ИИ.
В этом отношении обширная исследовательская база компании может принести свои плоды, считают некоторые исследователи. По словам Гэри Маркуса, нейробиолога из Нью-Йоркского университета, у компании «есть интеллектуальное разнообразие, которого я не вижу у других компаний». «Я всегда считал, что у них больше шансов на создание общего искусственного интеллекта, чем у других компаний», которые больше сосредоточены на больших языковых моделях.
Венди Холл, специалист по информатике из Университета Саутгемптона, Великобритания, говорит, что есть еще одно ключевое отличие DeepMind от других компаний, использующих AGI. По ее словам, Хассабис “понимает границы того, что они делают”, и рассматривает, что это может означать для человечества - достичь AGI.
Хассабис говорит, что считает своим долгом демонстрировать ответственный научный подход, в отличие от метода Кремниевой долины «двигайся быстро и ломай всё подряд». Несмотря на давление, у Google DeepMind есть шанс добиться большего, чем у других компаний, считает Брайсон. «Они находятся в Европе, и это даёт им некоторое преимущество. И они никогда не занимались этим только ради денег, — говорит она. — Но я не знаю, достаточно ли этого».