мысли" модели, не озвучивая их. Каждый паттерн связан с конкретным словом, однако его активация не приводит к произнесению этого слова, а лишь указывает на то, что оно находится в "умах" модели. J-space возник в процессе обучения модели и не был заранее спроектирован. В отличие от традиционного подхода, где выводы формулируются в текстовой форме, J-space функционирует на уровне нейронных активаций, что открывает новые горизонты для понимания внутренней работы ИИ. Берлога IT News
Исследователи компании Anthropic выявили в ИИ-модели Claude некий набор нейронных паттернов, названный J-space, который позволяет "читать мысли" модели, не озвучивая их. Каждый паттерн связан с конкретным словом, однако его активация не приводит к произнесению этого слова, а лишь указывает на то, что оно находится в "умах" модели.
J-space возник в процессе обучения модели и не был заранее спроектирован. В отличие от традиционного подхода, где выводы формулируются в текстовой форме, J-space функционирует на уровне нейронных активаций, что открывает новые горизонты для понимания внутренней работы ИИ.
