620 подписчиков

The Other Mind: How Language Models Exhibit Human Temporal Cognition

6 августа 20256 авг 2025

~1 мин

The Other Mind: How Language Models Exhibit Human Temporal Cognition Исследователи обнаружили, что крупные языковые модели спонтанно формируют «внутренние часы» — субъективную точку отсчёта во времени, — и кодируют расстояния в прошлом по закону Вебера–Фехнера, как это делает человеческий мозг. Авторы выявили нейроны с временной избирательностью, показали логарифмическое кодирование и проследили, как представление годов эволюционирует от числовых значений к абстрактной ориентации во времени по мере углубления слоёв. Анализ корпуса показал, что сами данные содержат нелинейную временную структуру, которую модель пере-осмысливает. Работа поднимает вопросы о «чужеродных» когнитивных фреймворках LLM и о том, как направлять их внутренние представления для безопасного выравнивания. arXiv DOI: 10.48550/arXiv.2507.15851 🕒 2025-07-21 12:00 UTC expotion daily

Исследователи обнаружили, что крупные языковые модели спонтанно формируют «внутренние часы» — субъективную точку отсчёта во времени, — и кодируют расстояния в прошлом по закону Вебера–Фехнера, как это делает человеческий мозг. Авторы выявили нейроны с временной избирательностью, показали логарифмическое кодирование и проследили, как представление годов эволюционирует от числовых значений к абстрактной ориентации во времени по мере углубления слоёв.

Анализ корпуса показал, что сами данные содержат нелинейную временную структуру, которую модель пере-осмысливает. Работа поднимает вопросы о «чужеродных» когнитивных фреймворках LLM и о том, как направлять их внутренние представления для безопасного выравнивания.

arXiv

DOI: 10.48550/arXiv.2507.15851

🕒 2025-07-21 12:00 UTC

expotion daily

Самосознание

8392 интересуются