AGI устарел? Президент Anthropic о будущем ИИ

Гонка за созданием искусственного общего интеллекта превратилась в одну из навязчивых идей Кремниевой долины — почти в ее фирменную манию.

Однако Даниэла Амодей, президент и сооснователь Anthropic, дала понять, что сам этот термин — удобная формула, призванная обозначить момент, когда машины достигнут уровня человеческого интеллекта, — возможно, уже перестает быть полезным способом размышлять о будущем ИИ.

«AGI — это вообще довольно забавное выражение, — сказала Амодей в недавнем интервью CNBC. — Много лет назад оно действительно помогало задать простой вопрос: когда ИИ станет таким же способным, как человек?»

Сегодня, по ее словам, эта рамка трещит по швам.

«Если исходить из некоторых определений, мы это уже перешагнули», — отметила Амодеи, указывая, например, на разработку ПО: модель Claude от Anthropic уже умеет писать код на уровне, сопоставимом с работой многих профессиональных инженеров, включая часть сотрудников самой компании.

И все же, как признает Амодей, ИИ-системы по-прежнему заметно уступают людям во множестве областей, где человек действует легко и почти автоматически. Из-за этого крайне трудно заявить, что машины достигли некого ясного и универсального порога «интеллекта».

«Claude до сих пор не умеет делать многое из того, что для людей совершенно естественно», — сказала она. Именно это противоречие, по мнению Амодеи, и подтачивает саму значимость понятия AGI. «Мне кажется, что сама эта конструкция сейчас либо неверна, либо скорее просто устарела», — подытожила она.

Комментарии Амодеи прозвучали на фоне того, что Anthropic и ее конкуренты вливают десятки миллиардов долларов в создание все более мощных моделей и дата-центров — инфраструктуры, без которой такие системы просто не смогут работать.

Хотя некоторые критики утверждают, что крупные языковые модели не приведут к подлинному AGI без радикальных научных прорывов, сама Амодей не видит признаков замедления прогресса.

«Мы не знаем, — сказала она о том, какие именно прорывы еще могут понадобиться. — Ничто не замедляется, пока не замедлится».

Вместо того чтобы зацикливаться на единственной финальной точке вроде AGI, считает Амодей, куда важнее другой вопрос: как все более способные ИИ-системы встраиваются в реальные организации — и насколько быстро люди и институты способны к этому приспособиться.

Даже если модели будут и дальше улучшаться в стабильном темпе, отметила она, их внедрение часто тормозят вполне приземленные факторы: управление изменениями, закупочные процедуры, необходимость понять, где именно ИИ действительно приносит ценность.

С точки зрения Амодей, будущее ИИ будет определяться не тем, соответствует ли он учебниковому определению AGI, а тем, что именно эти системы умеют делать, в чем они по-прежнему слабы и каким образом общество решит их использовать.