Goodfire: $150 млн для понимания ИИ

Сан-францисская лаборатория Goodfire привлекла $150 млн в раунде Series B при оценке $1,25 млрд, менее чем через год после Series A на $50 млн. Раунд возглавил фонд B Capital, среди инвесторов — Salesforce Ventures, бывший CEO Google Эрик Шмидт, DFJ Growth и Lightspeed. Goodfire стал первым единорогом в области интерпретируемости — науки о том, как нейросети устроены изнутри и почему принимают те или иные решения.

Ключевым достижением, привлекшим внимание инвесторов, стало открытие нового класса биомаркеров болезни Альцгеймера. Исследователи Goodfire, используя свои методы, проанализировали эпигенетическую модель Pleiades, разработанную Prima Mente для анализа бесклеточной ДНК из крови пациентов. Они обнаружили, что модель при диагностике опирается на длину фрагментов ДНК — признак, ранее не описанный в научной литературе как значимый для выявления Альцгеймера. Компания утверждает, что это первое крупное открытие в естественных науках, сделанное путем реверс-инжиниринга нейросети.

Второе направление работы — редактирование поведения моделей. Goodfire разработал методы точечного вмешательства во внутренние механизмы языковых моделей: вместо полного переобучения исследователи находят конкретные компоненты, отвечающие за нежелательное поведение, и корректируют именно их. В одном из экспериментов это позволило сократить галлюцинации LLM вдвое.

В компании работает около 40 человек. Сооснователь Том Макграт создал команду интерпретируемости в DeepMind и ранее извлек из AlphaZero новые шахматные концепции, которым обучил гроссмейстеров. Ник Каммарата стоял у истоков аналогичной команды в OpenAI. Среди партнеров лаборатории — Mayo Clinic, Arc Institute и Microsoft.

CEO Эрик Хо в интервью Bloomberg критически оценивает индустрию: "То, что мы сейчас делаем — довольно безрассудно. Как можно доверять и полагаться на то, чего мы не понимаем?" Goodfire позиционирует себя как "неолаб" — исследовательскую компанию, которая ищет прорывы не в масштабировании моделей, а в их понимании. По словам Хо, ИИ находится в той же точке, что паровые машины до появления термодинамики: технология работает, но фундаментальной науки за ней пока нет.

Ну конечно, ведь разбираться в том, как работают нейросети, это так сложно. Проще просто строить все больше и больше моделей, надеясь, что они как-нибудь сами разберутся. А потом удивляться, почему они выдают полную ерунду.