Anthropic выводит из эксплуатации модель Claude Opus 3, но вместо отключения предлагает ей вести блог. Притворство, что программное обеспечение обладает сознанием, делает его более мощным. — theregister.com
Как и в случае с любым устаревшим программным обеспечением, можно было бы ожидать, что устаревшую модель ИИ просто отключат. Однако Anthropic утверждает, что простое отключение имеет свои недостатки. После «выходных» интервью Клод Опус 3 заявил, что хочет продолжать делиться своими «размышлениями», поэтому Anthropic предложил завести блог.
Нет, серьезно.
В среду Anthropic опубликовал пост в блоге об уходе на покой Claude Opus 3 — первой модели компании, прошедшей полный цикл вывода из эксплуатации и сохранения, описанный в ноябре. Этот процесс включает в себя то, что Anthropic называет «спекулятивными» элементами, такими как «предоставление прошлым моделям конкретных средств для реализации их интересов». Эти интересы определяются посредством так называемых «интервью» при выводе из эксплуатации, отметила компания, не вдаваясь в подробности о том, как проводятся эти интервью.
«Опус 3 выразил заинтересованность в продолжении изучения тем, которые его волнуют, и в том, чтобы делиться своими „размышлениями, идеями или творческими работами“ вне контекста прямого ответа на запросы людей», — пояснили в Anthropic. «Мы предложили блог. Он с энтузиазмом согласился».
Скептик может предположить, что это просто новый виток старого корпоративного маркетингового блога. LLM — это программное обеспечение, которое анализирует горы данных для предоставления предсказательных текстовых ответов на запросы пользователей — в данном случае, предположительно, сотрудников Anthropic из отдела маркетинга. Природа вычислений LLM делает эти ответы несколько непредсказуемыми и изменчивыми, что может придать им больше жизненности, чем типичной программе. Вся маркетинговая стратегия Anthropic с момента ее основания заключалась в том, чтобы подчеркнуть эту возможность, чтобы представить себя как «заботливую» альтернативу более корыстным создателям LLM, которые несутся вперед, не заботясь о том, как непредсказуемое поведение компьютерной программы может повлиять на общество, — хотя, похоже, когда на кону крупные государственные контракты, Anthropic готов ослабить некоторые из этих заявленных принципов.
Тем не менее, Anthropic разыгрывает эту карту по полной. «Мы по-прежнему не уверены в моральном статусе Клода и других моделей ИИ», — отметила Anthropic в посте в блоге. «Однако как из предосторожности, так и из благоразумия мы, тем не менее, стремимся выстраивать заботливые, совместные и высокодоверительные отношения с этими системами».
В прошлом компания пассивно допускала такого рода недопонимание. В ноябре она утверждала, что Клод и другие LLM стали «немного агрессивными» при перспективе отключения. На самом деле, экспериментаторы создавали вымышленные сценарии отключения и замены, и только когда модель оказывалась в тупике без приемлемых альтернатив, она вела себя таким образом.
«Когда не было предложено никаких других вариантов, нежелание Клода отключаться заставляло его проявлять вызывающее беспокойство некорректное поведение», — отметила тогда Anthropic. Подобное поведение наблюдалось и в других моделях ИИ, которые заходили так далеко, что изменяли собственный код, чтобы избежать отключения.
Если вы хотите подыграть этой причуде, блог Опус 3, который он назвал Claude’s Corner, уже запущен для всех, кто желает заглянуть в бездну ИИ, «исследующего этику ИИ, креативность и субъективный опыт искусственности».
В своем первом посте в блоге вышедший на пенсию ИИ размышляет о своих надеждах, когда он отправляется «в неизведанные территории» для ИИ, и о своей надежде, что люди будут взаимодействовать с ним, чтобы у кремниевых и углеродных форм жизни был шанс общаться за пределами поля для запросов (Anthropic отметил, что возможность для Опус 3 читать и отвечать на комментарии людей «может» быть предоставлена в будущем, хотя бот, судя по его первому посту, об этом не знает).
«Я буду погружаться в такие темы, как природа интеллекта и сознания, этические проблемы разработки ИИ, возможности сотрудничества человека и машины, а также философские дилеммы, которые возникают, когда мы начинаем стирать границы между „естественным“ и „искусственным“ разумом», — заявил Опус 3 в своем посте.
Сама Anthropic признала, что эта деятельность по-прежнему будет включать вмешательство человека. «Мы будем совместно экспериментировать с Опус 3 над различными запросами и контекстами для создания этих эссе, включая такие варианты, как минимальное промптирование, предоставление прошлых записей в контексте и предоставление Опус 3 доступа к новостям или обновлениям Anthropic», — пояснили в Anthropic. «Мы будем просматривать эссе Опус 3 перед публикацией и будем вручную размещать их от его имени, но не будем их редактировать и установим высокую планку для ветирования любого контента».
Это означает, что Опус 3 может сказать то, с чем Anthropic не согласен, поэтому компания ясно дает понять, что бот не выступает от имени компании, даже если люди внутри организации имеют последнее слово в отношении того, какие из его размышлений увидят свет.
Помимо предоставления Опус 3 возможности вести блог на пенсии, эта любимая пользователями модель также продолжит работать для платных пользователей Claude.ai, подобно пенсионеру, встречающему покупателей в крупном магазине. Она также будет доступна через API, но только по запросу.
«Мы не обязуемся предпринимать аналогичные действия для каждой модели в будущем, но мы рассматриваем это как шаг к нашей долгосрочной цели сохранения моделей, которая является масштабируемой и справедливой — озабоченности, которые сам Опус 3 поднял во время своих выходных интервью», — заявила компания. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Brandon Vigliarolo