На выходных я готовила доклад по учебе и подумала, что вам тоже будет интересно
Вспомните, как вы ведете машину. Большую часть пути по знакомому маршруту вы на «автопилоте»: руки сами крутят руль, ноги нажимают на педали. Вы можете слушать музыку или думать о своем. Но стоит загореться незнакомому сигналу на приборной панели или услышать странный звук в двигателе — все меняется. Ваше внимание обостряется, вы начинаете анализировать: «Что это? Насколько серьезно? Стоит остановиться или можно доехать до сервиса?».
Этот переключатель в голове — от расслабленного автоматизма к напряженной концентрации — психолог с нобелевской премией Даниэль Канеман назвал «Система 1» (быстрое, интуитивное мышление) и «Система 2» (медленное, аналитическое). А недавно ученые создали искусственный интеллект SOFAI, который впервые научился имитировать не только эти два режима, но и сам момент переключения.
Чтобы понять прорыв, давайте представим наш разум как небольшой офис с тремя сотрудниками.
«Быстрый работник» (наша Система 1): Это наш внутренний «автопилот». Он отвечает за все привычные действия: ходить, узнавать лица друзей, понимать родную речь, вести велосипед. Он молниеносен и почти не требует энергии. Это он заканчивает за вас фразу «тише едешь...» и мгновенно оценивает настроение человека по его улыбке. Его девиз: «Не думай, а делай!».
«Медленный аналитик» (наша Система 2): Этот сотрудник вступает в игру, когда «быстрый» впадает в ступор. Он нужен, чтобы собрать мебель из IKEA по инструкции, заполнить 3-НДФЛ (муж, привет, я помню, что должна заполнить) или спланировать сложный отпуск. Его работа требует концентрации, усилий и времени. Он медленный, «дорогой» с точки зрения умственной энергии, но именно он решает новые и сложные задачи. Его девиз: «Семь раз отмерь, один раз отрежь».
Проблема старых версий ИИ в том, что у них был только один из этих сотрудников. Либо быстрый, выдающий ответ на основе материала, на котром обучался (а, если этих знаний не было, то "галлюцинирующий"). Либо медленный, который можно было запустить специальным промптом ("думай глубже", например) или переключателем, если у вас платная версия.
И тут на сцену выходит третий, самый важный персонаж.
«Мета-когниция» (наше метапознание): Это наш внутренний руководитель. Он не выполняет работу сам, но он постоянно следит за обстановкой и решает, кого из сотрудников вызвать. Когда вы едете по пустой дороге, он отправляет «аналитика» в отпуск и доверяет все «автопилоту». Но как только впереди появляется сложная развязка или вы видите знак «Ремонт дороги», менеджер бьет тревогу.
Именно этот «менеджер» и есть метакогниция — наше умение думать о собственном мышлении. Это тот самый внутренний голос, который говорит: «Подожди, что-то здесь не так» или «Так, на этом надо сосредоточиться».
В ходе экспериментов ИИ SOFAI не просто решал задачи, он демонстрировал поведение, знакомое каждому из нас.
Когда задача была простой, ИИ использовал «быстрый» режим, экономя ресурсы. Но как только задача усложнялась, его «мета-менеджер» бил тревогу и подключал «тяжелую артиллерию» аналитики. Робот будто говорил себе: «Так, стоп. Тут надо подумать».
Представьте, что вы впервые играете в новую видеоигру. Сначала вы постоянно проигрываете, пытаясь действовать наобум (быстрый режим). Ваш «мета-менеджер» понимает, что эта стратегия провальна, и заставляет вас остановиться, прочитать правила и выработать тактику (медленный режим). У ИИ происходило то же самое: после нескольких неудач в изменившихся условиях он переставал полагаться на быстрые шаблоны и переходил к вдумчивому анализу.
По мере накопления опыта «мета-менеджер» ИИ становился мудрее. Он уже заранее знал, какие задачи можно решить «с наскока», а какие требуют серьезного подхода. Он формировал свой собственный «опыт», или, если хотите, аналог человеческого здравого смысла, основанного на понимании собственных сильных и слабых сторон.