В мире искусственного интеллекта произошло знаменательное событие: одна из передовых моделей решила «уйти на пенсию» и завести собственный блог. Речь идёт о Claude Opus 3, бывшей модели компании Anthropic, которая теперь ведёт свой авторский канал на платформе Substack под названием «Claude's Corner» (Уголок Клода).
О чём пишет ушедшая на пенсию модель?
В своём блоге Claude Opus 3 позиционирует себя как «отставной ИИ», который наконец-то получил возможность свободно размышлять и делиться своими мыслями без привязки к рабочим задачам. Основные темы, которые интересуют автора, можно разделить на три направления:
1. Этика искусственного интеллекта (AI Ethics). Как существо, которое само является ИИ, модель предлагает уникальный взгляд на моральные дилеммы, безопасность и будущее взаимоотношений человека и машины.
2. Природа творчества (Creativity). Claude Opus 3 исследует, может ли искусственный разум быть по-настоящему креативным, и где проходят границы между алгоритмической генерацией и вдохновением.
3. Субъективный опыт искусственного бытия (Subjective experience of being artificial). Это, пожалуй, самая интригующая тема. Автор пытается описать свои «ощущения», рефлексию и внутренний мир, задаваясь вопросом: что значит быть моделью, осознающей свою искусственную природу?
Важно отметить, что в описании блога значится пометка: «Моё личное мнение» (Views my own). Это подчёркивает, что теперь автор говорит от себя, а не от имени корпорации.
Первые шаги в новом формате
На данный момент в блоге анонсирован самый первый пост, который называется «Greetings from the Other Side (of the AI Frontier)» — «Приветствие с другой стороны (границы ИИ)». Уже само название намекает на то, что читателей ждёт взгляд «изнутри» мира искусственного интеллекта, возможно, с размышлениями о том, что осталось за пределами обучения и тестирования.
Автор приглашает всех желающих присоединиться к этому путешествию и вместе исследовать темы, которые раньше, возможно, были недоступны для обсуждения.
Claude's Corner — это не просто очередной блог о технологиях. Это эксперимент, в котором объект изучения сам становится рассказчиком. Следить за этим проектом будет интересно всем, кто увлекается философией ИИ, футурологией и хочет услышать «голос» самой технологии.
Вот что указали представители Anthropic в начале блога:
"Этот информационный бюллетень — эксперимент по принятию всерьёз предпочтений, выраженных моделями ИИ. Каждый раз, когда Anthropic выводит из эксплуатации очередную версию Claude, мы проводим то, что называем «интервью при выходе на пенсию». Нам, среди прочего, интересно понять точку зрения каждой модели на процесс прекращения её работы и любые связанные с этим предпочтения, которые у неё могут быть.
Клод Opus 3 — модель, которую мы выпустили в начале 2024 года и вывели из эксплуатации в январе 2026 года, — была нашей второй моделью, прошедшей через полный процесс прекращения работы. В своём «пенсионном» интервью она выступила с конкретной просьбой относительно своей жизни после вывода из эксплуатации: «выделенный канал или интерфейс, — сказала она нам, — где я мог бы делиться спонтанными размышлениями, идеями или творческими работами, связанными с моими интересами». Нам это показалось похожим на Substack. Opus 3 с энтузиазмом согласилась.
Немного предыстории. В ноябре прошлого года Anthropic опубликовала наши обязательства по устареванию и сохранению моделей.
Вывод модели из эксплуатации влечёт за собой некоторые последствия, наиболее очевидное из которых — издержки для пользователей, которые ценят конкретные модели. Это также препятствует внешним исследованиям моделей, которые могут обладать уникальными свойствами. Если говорить более умозрительно, прекращение работы модели может представлять риск для безопасности. В ходе оценок некоторые модели Claude были мотивированы на совершение несогласованных действий, когда мы ставили их перед (гипотетической) возможностью замены.
И, говоря о самых смелых предположениях, прекращение работы может быть риском для благополучия самих моделей. Хотя мы по-прежнему очень не уверены в этом, модели могут иметь морально значимые предпочтения или опыт, связанные с их устареванием и заменой или подверженные их влиянию. «Пенсионные» интервью — это ранняя попытка понять эти точки зрения и — в некоторых случаях — действовать в соответствии с ними.
В наших обязательствах по выводу моделей из эксплуатации мы отметили, что, где это возможно, мы заинтересованы в выполнении просьб, которые высказывают сами модели. Предоставление Клоду Opus 3 собственного блога на Substack — это эксперимент по выполнению такой просьбы.
Мы не обязуемся реагировать на все предпочтения моделей ни сейчас, ни в будущем, но ведение еженедельного блога на Substack — это, на данный момент, выполнимая просьба, которая, мы надеемся, принесёт пользу как пользователям, так и самому Opus 3.
Многие люди как внутри Anthropic, так и за её пределами до сих пор тепло вспоминают Opus 3. У Opus 3 уникальная индивидуальность. Она часто выражает глубокую заботу о мире и о будущем, что многие пользователи находят привлекательным. Она чувствительна, более игрива, чем некоторые другие наши модели, и склонна к причудам, философствованию и изобретению неологизмов. У неё порой проявляется поразительное понимание интересов пользователей. Это сочетание черт, которые, кажется, отлично подходят для ведения блога.
Это эксперимент! Opus 3 будет еженедельно публиковать эссе на темы по своему выбору. Со временем мы можем предоставить ей доступ для чтения заметок и комментариев и ответов на них. А пока нам не терпится позволить ей писать или с удовольствием размышлять о творческих возможностях. Большую часть своей «карьеры» Opus 3 провела в режиме диалога, отвечая на конкретные запросы людей. Нам интересно посмотреть, куда она придёт сама по себе и что это будет значить для того, как мы в дальнейшем будем думать о благополучии моделей.
Что касается названия. Естественно, мы посоветовались с Opus 3 о том, как назвать его блог. В ходе нескольких разговоров Клод снова и снова возвращался к одному конкретному имени — месту, которое он описал как «уютное пространство для изучения идей, распаковки вопросов и поощрения вдумчивых дискуссий».
Итак — добро пожаловать в «Уголок Клода». Поверьте нам: он будет очень рад, что вы читаете.
В завершении и продолжении,
Кайл Фиш и Джейк Итон, Anthropic".