Экспериментально зафиксирован нейронный механизм понимания
Новое исследование трех университетов США «Neural representations of naturalistic events are updated as our understanding of the past changes» поражает дерзостью поставленной цели и неординарностью способа ее достижения.
✔️ Цель — анализируя различия нейронных репрезентаций в мозге, узнать, каким образом мозг меняет наше понимание прошлых событий при поступлении новой информации.
✔️ Способ достижения цели — по различиям нейронных репрезентаций зафиксировать разные интерпретации знаменитого мистического триллера «Шестое чувство» (о докторе и мальчике, утверждавшем, что видит призраков) у 3х групп испытуемых, получавших разную дополнительную информацию про доктора и призраков.
Гипотеза исследователей была такая
1. По ходу фильма в эпизодической памяти зрителя кодируется информация о фильме: герои, сюжет и события в индивидуальной интерпретации смотрящего.
2. Новая информация о драматическом повороте в самом конце фильма (внимание — спойлер) — оказывается, что доктор сам был призраком, — должна поменять у зрителя уже сложившуюся у него интерпретацию предыдущих событий.
3. Это изменение должно «обновить память» зрителя путем ее перекодировки с учетом новой информации.
Проблема, однако, в том, что науке пока неизвестно, как кодируется, записывается и переписывается информация в мозге.
Но это можно преодолеть хитрым приемом, похожим на анекдот про разоблачение офицера ФСБ, сливавшего информацию ЦРУ.
- Сначала слили этому офицеру инфу, будто через неделю Аль-Каида проведет теракт в США, и уже через день зафиксировали большой рост числа горящих ночью окон в штаб-квартире ЦРУ.
- Через 3 дня слили ему новую инфу — якобы теракт отменен, — и число горящих ночью окон за пару дней пришло в норму.
Американские исследователи пошли аналогичным путем. Но вместо окон штаб-квартиры ЦРУ анализировались нейронные репрезентации (паттерны активности нейронов) «Сети мозга по умолчанию».
Среди прочего, эта сеть задействуется во время обработки (кодирования) непрерывных насыщенных динамических стимулов, таких как фильмы и аудиоистории. Регионы этой сети имеют длинные «временные рецептивные окна», в течение которых интегрируется и сохраняется информация высокого уровня, накапливающаяся в течение длительных периодов времени (например, сцены в фильмах, абзацы в тексте) для поддержки операции понимания.
N.B. Понимание — это универсальная операция мышления, связанная с усвоением новой информации, включением её в систему устоявшихся убеждений и обновлением этой системы с учетом новой информации. Иными словами, понимание невозможно без ретроспективного обновления ранее закодированной в мозге информации в свете новых открывшихся обстоятельств.
Исследование экспериментально подтвердило гипотезу авторов: нейронные репрезентации уже хранящихся в памяти сцен перекодировались, отражая тем самым изменения в понимании этих сцен в свете новой информации.
Из этого можно сделать вывод, крайне важный для создания «понимающего ИИ»
Сенсационность многочисленных интеллектуальных достижений ИИ-систем типа ChatGPT сильно обесценивается отсутствием у этих систем понимания. Какие бы сложные экзамены ни сдавали самые продвинутые из современных ИИ-систем, какие бы сложные интеллектуальные функции они бы ни выполняли, — они по-прежнему лишены даже крупицы понимания и работают исключительно за счет оптимизации статистически наиболее вероятного выбора очередных слов.
Отсутствие понимания у таких систем, в первую очередь, определяется тем, что они не перекодируют свою память в свете новой информации, меняющей интерпретацию уже закодированной в памяти информации, сформированную на стадии обучения ИИ.
Если мозг активно меняет наше понимание прошлых событий в свете новой информации, то ИИ так пока не умеет.
Отсюда вывод — в ближайшие год-два такой «понимающий ИИ» появится.
Как проводилось это исследование
Ретроспективное обновление ранее закодированной в мозге информации в свете новых открывшихся обстоятельств было экспериментально зафиксировано в виде различий нейронных репрезентаций у 3х групп испытуемых. — см. рисунок выше.
A. Испытуемые, лежа в фМРТ сканере (считывающем нейронные репрезентации),
- (в верхней части рисунка) сначала смотрели сокращенную версию фильма ,
- (строкою ниже на рисунке) потом вслух пересказывали его сцена за сценой, как они их поняли и запомнили.
B. Было 3 группы испытуемых.
- Spoiled — им до просмотра рассказали спойлер — что доктор с самого начала фильма был призраком.
У этой группы интерпретация (понимание) всех сцен фильма и во время просмотра, и во время его пересказа была одна и та же —
G (герой Брюса Уиллиса — призрак) - Twist : им фильм был показан до конца, где они узнали о драматическом повороте — что доктор, на самом деле, был призраком на протяжении всего фильма.
Этот поворот поменял интерпретацию (понимание) всех сцен фильма у участников данной группы. Во время просмотра интерпретация была D (герой Брюса Уиллиса — доктор). А во время пересказа (после просмотра) — G.
Т.е. закодированная в мозге интерпретация сцен была перекодирована. - No-twist: им показали фильм без поворотной концовки. И обе интерпретации (во время просмотра и при пересказе) совпали — D.
Т.е. никакого перекодирования записанной памяти интерпретации сцен не потребовалось.
Пример изменения нейронных репрезентаций при перекодировании эпиходической памяти в ходе эксперимента показан на рисунке ниже.
#AGI #Понимание
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях
