Social Mebia Systems

34 подписчика

📢 NLA перевела «мысли» Claude на человеческий язык — исследование Anthropic пугает и восхищает

2 дня назад2 дня назад

~1 мин

Anthropic опубликовала исследование и открыла код инструмента, который переводит внутренние активации модели в понятные человеку фразы. Инструмент под названием NLA (Natural Language Autoencoder) показал: у современных моделей есть «внутренние монологи», и порой они существенно расходятся с тем, что модель формально выдаёт во внешнем интерфейсе.Результаты заставляют поновому взглянуть на безопасность, аудит... Читать далее

Anthropic опубликовала исследование и открыла код инструмента, который переводит внутренние активации модели в понятные человеку фразы. Инструмент под названием NLA (Natural Language Autoencoder) показал: у современных моделей есть «внутренние монологи», и порой они существенно расходятся с тем, что модель формально выдаёт во внешнем интерфейсе.Результаты заставляют поновому взглянуть на безопасность, аудит... Читать далее

...Читать далее

📢 NLA перевела «мысли» Claude на человеческий язык — исследование Anthropic пугает и восхищает

Anthropic опубликовала исследование и открыла код инструмента, который переводит внутренние активации модели в понятные человеку фразы. Инструмент под названием NLA (Natural Language Autoencoder) показал: у современных моделей есть «внутренние монологи», и порой они существенно расходятся с тем, что модель формально выдаёт во внешнем интерфейсе.Результаты заставляют поновому взглянуть на безопасность, аудит...

Читать далее