108 подписчиков

Экспериментально доказано – LLM «думают» как люди, а не имитируют наше мышление на основе статистик

Это открытие «Лаборатории вычислительного зрения и обучения» Университета Калифорнии прошло научное рецензирование и опубликовано в новом выпуске Nature Human Behaviour под заголовком «Эмерджентное рассуждение по аналогии в больших языковых моделях» – без пэйвола см. здесь

Суть сделанного открытия в следующем:

Экспериментально доказано, что большие языковые модели (LLM) уровня GPT-3 и выше уже достигли и даже превосходят уровень людей при решении задач:

• абсолютно новых для них (с которыми они никогда не сталкивались)

• требующих умения рассуждать "с нуля", без какого-либо прямого обучения

• требующих способности к абстрактной индукции паттернов – т.е. абстрагирования от конкретной задачи и рассуждения по аналогии

Рассуждения по аналогии – это квинтэссенция способности человека к абстрагированию, являющейся основой человеческого интеллекта и его отличительной особенностью

Без наличия у ИИ такой способности невозможна реализация AGI (Artificial General Intelligence)

Доказательство того, что LLM обладает этой способностью на уровне человека и даже выше ставит точку в споре о том:

• «думают» ли LLM, как люди (т.е. обладают ли LLM неким когнитивным процессом, функционально эквивалентным мыслительным способностям людей)

• или же LLM лишь имитируют человеческое мышление (т.е. подражают человеческим рассуждениям, используя огромную статистику из наборов данных, на которых эти модели проходили обучение)

Из результатов исследования следует вот что.

• Верен п.1 – LLM обладают неким когнитивным процессом, функционально эквивалентным мыслительным способностям людей

• Пока не ясно, как устроен вычислительный процесс порождения у LLM эмерджентных реляционных представлений

• Единственно, что пока понятно, - этот вычислительный процесс формируется у LLM радикально иным путем, чем тот, который использует биологический интеллект

Не менее важно, что это исследование на экспериментальных тестах зафиксировало 3 отсутствующих у LLM элемента, обретя которые LLM интеллектуально уравняются с людьми (пока они лишь человекоподобны, но не равны людям)

Вот эти 3 элемента

I. Наличие собственных целей и мотивации

II. Долговременная память

III. Физическое понимание мира на основе мультимодального сенсорного опыта

1 минута

14 августа 2023