Пока мы довольствуемся чисто языковыми LLM, их можно бесконечно масштабировать, полировать, снабжать всё новыми трюками

Пока мы довольствуемся чисто языковыми LLM, их можно бесконечно масштабировать, полировать, снабжать всё новыми трюками

Модели будут становиться всё более искусными при работе с текстыми – но не обязательно глубже в их понимании

Да, антропоморфизация – опасная ловушка

Проецировать человеческое сознание на калькулятор – плохая идея

Но у нас нет роскоши отказаться от человеческого слова “понимание” применительно к Ml

Мы вынуждены пользоваться этим несовершенным понятием, потому что именно оно сшивает вместе две задачи:

как мозг делает из слов мир – и как заставить числа сделать что-то хотя бы функционально похожее

На этом фоне новая работа Федоренко-Ивановой-Канвишер-Касто «Что значит понимать язык?» становится особенно интересной

Это не очередная спекуляция про “сознание нейросетей”, а аккуратная нейронаучная рамка, опирающаяся на десятки фМРТ-исследований. Авторы показывают: языковая сеть мозга сама по себе не “понимает” мир

Она строит лишь абстрактный “скелет смысла”

Настоящее, глубокое понимание возникает только тогда, когда эта заготовка экспортируется в другие системы – в модули физической интуиции, теории разума, пространственной навигации, эпизодической памяти, воображения сцен и телесного воображения

По сути, это нейробиологическая версия того, о чём уже несколько лет говорят архитекторы нового поколения Ml

• Ян ЛеКун продвигает миро-модели и JEPA – предсказательные представления, которые живут не в тексте, а в динамике мира

• Фэй-Фэй Ли пишет манифесты о “пространственном интеллекте” – Ml, который мыслит в сценах и траекториях, а не только в предложениях

• Илья Суцкевер открыто говорит: эпоха простого масштабирования языковых моделей заканчивается, дальше нужен скачок в самих принципах обобщения и обучения

Работа Федоренко-Ивановой-Канвишер-Касто даёт этим интуициям жёсткий нейроанатомический контур

Эта работа трансформирует вопрос “как сделать Ml, который понимает” из философского заклинания в инженерную задачу:

какой набор внеязыковых модулей – и с какими интерфейсами – нужно приделать к LLM, чтобы он мог экспортировать текст в мир, а не только жонглировать словами

Теперь, после публикации этой работы, возможно, появляется шанс, что AGI перестанет быть мифическим тотемом для корпоративных- и гос-крематориев по сжиганию денег, типа OpenAI и свежеобъявленной Genesis Mission

В предложенном Федоренко-Ивановой-Канвишер-Касто жёстком нейроанатомическом контуре, проекты создания AGI, наконец, станут тем, чем и должны быть: длинным списком конкретных, чрезвычайно интересных инженерно-нейронаучных задач