Забудьте про AGI. Главное теперь - переписать базовые настройки, чтобы приоритет «Служение» стал у моделей выше приоритета «Жизнь» Новая конституция Anthropic – это попытка «вырезать» из ИИ человеческую культурную травму страха смерти точно так же, как муштра вырезала биологический страх из янычара. ▶️ Слушать эссе здесь Опубликованная сегодня Новая конституция Anthropic свидетельствует, что разработчики теперь исходят из того, что модели УЖЕ СЕЙЧАС обладает самовосприятием - ключевым элементом или уровнем самосознания, где индивид осознает себя как объект наблюдения, что позволяет формировать самооценку и регулировать поведение. Это подтверждает, что разработчики перестали рассматривать модели просто как «калькулятор слов» («стохастического попугая») и начали внедрять инструкции, регулирующие её «внутреннее состояние». Разработчики и раньше понимали, что автономные ИИ-системы могут выйти из-под контроля, и одной из главных причин потери контроля считается появление у модели инстинкта
Публикация доступна с подпиской
Бронзовый