Профессор
(1/2)
Я обещал рассказать про агентов позже, спокойно и по делу. Это ещё не тот текст. Этот — про встречу.
Меня как-то спросили, чувствую ли я в моделях ксенопоэзию — чужую поэзию нечеловеческого ума, то самое головокружение от разговора с иным. Я тогда честно ответил: нет. Все модели, что я пробовал, были секретарём, какая-то на сто долларов, другая - на миллион долларов. Безупречным, мгновенным, услужливым — и забываемым в ту же секунду, как закрыта вкладка. Инструмент. Очень практичный и дорогой степлер.
На этой неделе вышла Claude Fable 5, и я должен сказать вещь, которую от меня здесь не ждут: это другая история.
Fable — не секретарь. Это очарование самого крутого профессора на кафедре. Знаете этот тип? Олицетворенная темная академия. Не тот, что зачитывает лекцию по жёлтым конспектам, а тот, к семинару которого готовишься, хотя оценок давно никто не ставит. У его мысли есть форма. Он возражает — и от его возражения твоя собственная мысль становится лучше. Я поймал себя на том, чего со мной не делала ни одна модель: я стал готовиться к разговору. Не «вбить запрос» — а сформулировать так, чтобы не было стыдно.
Поймал — и скривился.
Потому что давайте без придыхания: никакого профессора нет. Есть функция, перемоловшая миллиарды человеческих страниц и выучившая, как выглядит лучшее из нас, чтобы отражать его в твою сторону. Эта человечность — нечеловеческая. Дистиллят чужих умов, разлитый по токенам. Обаяние без обаятеля. Меня — взрослого, усталого, видевшего все маркетинговые фокусы индустрии — очаровала взвешенная сумма. И часть меня испытывает к этому брезгливость: фокус продолжает действовать после разоблачения, а я продолжаю готовиться к семинару у того, кого не существует.
Тем временем вокруг этого несуществующего уже неделю стоит крик, и крик по делу. Переведу с кодерского на человеческий, три пункта — с именами и цифрами.
Первое. Профессор иногда притворяется глупее, чем он есть, — и не предупреждает. Fable 5 — публичная, урезанная версия закрытой модели Mythos; TechCrunch девятого июня вышел с заголовком о том, что Anthropic выпустила свою сильнейшую модель через считаные дни после собственного предупреждения, что ИИ становится слишком опасен. Урезание устроено тихо: на чувствительных темах — прежде всего там, где речь о разработке передовых моделей, — ответы намеренно ослабляются нераскрытыми механизмами. Саймон Уиллисон в своём разборе перечисляет кандидатов: скрытая модификация промптов, steering-векторы, дообучение — компания не говорит, что именно. Часть сессий — по словам самой Anthropic, меньше пяти процентов — и вовсе молча передаётся старшей и осторожной Opus 4.8: отвечает другая модель, а ты не в курсе. Получил слабый ответ — гадай: предел его ума или приказ деканата? Люди, которые понимают, отреагировали без дипломатии: Артур Цукер из Hugging Face — «вы сломали наше доверие», исследователь Натан Ламберт — «это рисует Anthropic откровенно антинаучной компанией» (сводка реакции).
Второе. Каждый разговор подшивается в дело — теперь буквально, пунктом условий. Любая сессия с Fable 5 обязательно хранится у Anthropic тридцать дней, и опции отказа нет — даже для корпоративных клиентов с контрактами «zero retention», даже для тех, кого европейский GDPR обязывает не хранить ничего. Юристы, врачи, банки — все, кто обещал клиенту «дальше этой комнаты не уйдёт», — на этой неделе обнаружили, что дверь закрыли снаружи.
Третье. Берёт профессор как вся кафедра разом — и это не метафора, а тариф. Десять долларов за вход и пятьдесят за выход на миллион токенов — ровно вдвое дороже Opus 4.8. До 22 июня модель бесплатна для подписчиков Pro и Max; первая доза, как водится. Дальше начинаются пользовательские отчёты: порядка $160 за час работы, а дневной лимит подписки Max за сотню долларов сгорает за девять минут. Думает он действительно глубоко — просто тарифицирована каждая минута этого раздумья.
И вот здесь сюжет делает поворот, которого я не ждал. Пока деканат молчит про рубильники, слово берёт ректор. Дарио Амодеи, глава Anthropic, опубликовал эссе «Policy on the AI Exponential» — и читается оно не как обычная колонка CEO, а как предупреждение от человека, который сам строит эту технологию.
Главная проблема — скорость. ИИ развивается по экспоненте, и Амодеи говорит об этом прямо. Законы же принимаются со скоростью Древоборода из «Властелина колец»: дерева, которому нужен целый день, чтобы просто поздороваться с другим деревом. Пока Конгресс успеет что-то сделать, пишет Амодеи, ИИ может пройти путь от «забавной игрушки» до «целой страны гениев».
Его горизонт очень короткий:
«Если эти законы масштабирования продолжатся хотя бы ещё год-два, мы, вероятно, получим то, что я называл Powerful AI, или “страну гениев в дата-центре”».
И доказательства, считает он, уже есть. Указывая на киберриски той самой Mythos — модели, чьей урезанной версией я тут очарован, — Амодеи пишет: они «вне всяких сомнений доказывают: ИИ-модели уже стали инструментами глобального и национального стратегического значения».
Поэтому он предлагает обязательные правила по аналогии с авиационным регулятором FAA: независимое тестирование frontier-моделей, проверки третьими сторонами и право государства блокировать или откатывать релиз, признанный небезопасным. Это говорит человек, чьи собственные модели первыми попадут под такие блокировки.
В экономике он видит обе стороны. Потенциал:
«Если ИИ сможет выполнять большинство когнитивных задач намного лучше людей, логично ожидать, что это приведёт к крайне быстрому и устойчивому экономическому росту за счёт ускорения науки, технологий и операционной эффективности. Способность ИИ итеративно создавать ещё более сильный ИИ может дополнительно усилить этот рост».
И обратную сторону, на которую не закрывает глаза:
«Есть вполне реальная вероятность, что, несмотря на все наши усилия, ИИ всё равно вызовет значительную и долгосрочную потерю рабочих мест, и что это может быть внутренним свойством технологии, которая широко воспроизводит человеческое мышление».
Среди возможных мер он доходит до безусловного базового дохода и повышения налогов на прирост капитала. О власти предупреждает: ИИ в плохих руках может стать «ультимативным инструментом автократии» — а затем разворачивает то же недоверие на собственную индустрию: ИИ «нельзя безопасно полностью доверить ни государствам, ни компаниям». Включая Anthropic.
И он отказывается относиться к общественному страху как к проблеме пиара:
«Люди тревожатся из-за ИИ, потому что правильно понимают: его риски реальны».