Как интроспекция и воображение делают роботов лучше.
Это может показаться самонадеянным. Механизмы сознания - причины, по которым у нас есть яркий и непосредственный опыт мира и самости, - неразрешенная тайна в нейронауке, и некоторые люди думают, что они всегда будут; кажется невозможным объяснить субъективный опыт, используя объективные методы науки. Но в те 25 лет, когда мы серьезно воспринимаем сознание как цель научного исследования, мы добились значительного прогресса. Мы обнаружили нейронную активность, которая коррелирует с сознанием, и мы лучше понимаем, какие поведенческие задачи требуют сознательного осознания. Наш мозг подсознательно выполняет многие когнитивные задачи высокого уровня.
Сознание, мы можем условно заключить, не является необходимым побочным продуктом нашего познания. То же самое можно сказать и о ИИ. Во многих научно-фантастических историях машины развивают внутреннюю психическую жизнь автоматически, просто в силу своей утонченности, но вполне вероятно, что сознание должно быть четко сконструировано в них.
И у нас есть серьезные научные и технические причины, чтобы попытаться это сделать. Наше очень невежество в отношении сознания - это одно. Инженеры 18-го и 19-го веков не дождались, пока физики не разобрались с законами термодинамики, прежде чем они построят паровые двигатели. Это сработало наоборот: Изобретения вели теорию. Так оно и есть сегодня. Дискуссии о сознании часто слишком философски и кружатся по кругу, не принося ощутимых результатов. Малое сообщество из нас, кто работает над искусственным сознанием, стремится учиться.
Кроме того, сознание должно иметь для нас какую-то важную функцию, иначе эволюция не наделила бы нас этим. Эта же функция будет полезна для ИИ. И здесь научная фантастика может ввести нас в заблуждение. Для ИИ в книгах и телешоу сознание - это проклятие. Они демонстрируют непредсказуемое, преднамеренное поведение, и вещи не оправдываются для людей. Но в реальном мире сценарии для дистопии кажутся маловероятными. Независимо от того, какие риски могут представлять собой ИИ, они не зависят от их осознания. Напротив, сознательные машины могут помочь нам управлять воздействием технологии ИИ. Я бы предпочел поделиться с ними миром, чем с легкомысленными автоматами.
ИИ-AlphaGo играл против человеческого чемпиона Go, Ли Седол, многие эксперты задавались вопросом, почему AlphaGo играл так , как это сделал. Они хотели получить какое-то объяснение, некоторое понимание мотивов и обоснований AlphaGo. Такие ситуации являются общими для современных ИИ, потому что их решения не запрограммированы людьми, а являются возникающими свойствами алгоритмов обучения и набора данных, на которых они обучаются. Их непостижимость вызвала опасения относительно несправедливых и произвольных решений. Уже были случаи дискриминации по алгоритмам; например, расследование Propublica в прошлом году показало, что алгоритм, используемый судьями и офицерами условно-досрочного освобождения во Флориде, обвинял чернокожих подсудимых в том, что они более склонны к рецидивизму, чем они на самом деле, а белые обвиняемые менее склонны, чем они были на самом деле.
Начиная с следующего года, Европейский союз предоставит своим жителям законное «право на объяснение». Люди смогут потребовать учета того, почему система ИИ приняла решение. Это новое требование является технологически сложным. В настоящий момент, учитывая сложность современных нейронных сетей, нам трудно понять, как ИИ производят решения, а тем более переводить этот процесс на язык, о котором люди могут понять.
В реальном мире сценарии с дистопией кажутся маловероятными.
Если мы не можем понять, почему ИИ делают то, что делают, почему бы нам не спросить их? Мы можем наделить их метапознанием - интроспективной способностью сообщать о своих внутренних психических состояниях. Такая способность является одной из основных функций сознания. Это то, что ищут нейрофизиологи, когда проверяют, сознают ли люди или животные сознание. Например, базовая форма метапознания, уверенности, масштабов с ясностью сознательного опыта. Когда наш мозг обрабатывает информацию без нашего внимания, мы не уверены в этой информации, тогда как когда мы осознаем стимул, опыт сопровождается высокой уверенностью: «Я определенно видел красный!»
Любой карманный калькулятор, запрограммированный статистическими формулами, может дать оценку уверенности, но ни одна машина еще не обладает полным спектром метакогнитивных способностей. Некоторые философы и нейрофизиологи стремились развить идею о том, что метапознание является сущностью сознания. Так называемые высшие теории сознания полагают, что сознательный опыт зависит от вторичных представлений о прямом представлении сенсорных состояний. Когда мы что-то знаем, мы знаем, что знаем это. И наоборот, когда нам не хватает этого самосознания, мы фактически бессознательны; мы находимся на автопилоте, принимая сенсорный ввод и действуя на него, но не регистрируя его.
Эти теории имеют силу дать нам некоторое направление для построения сознательного ИИ. Мои коллеги и я пытаемся реализовать метапознание в нейронных сетях, чтобы они могли сообщать свои внутренние состояния. Мы называем этот проект «машинной феноменологией» по аналогии с феноменологией в философии, которая изучает структуры сознания посредством систематического отражения сознательного опыта. Чтобы избежать дополнительной трудности преподавания ИИ, чтобы выразить себя на человеческом языке, наш проект в настоящее время сосредоточен на обучении их развитию собственного языка, чтобы поделиться своими интроспективными анализами друг с другом. Эти анализы состоят из инструкций о том, как ИИ выполнил задачу; это шаг, выходящий за рамки обычных коммуникаций, а именно результатов задач. Мы не уточняем, как машина кодирует эти инструкции; сама нейронная сеть разрабатывает стратегию посредством учебного процесса, который вознаграждает успех в передаче инструкций другой машине. Мы надеемся расширить наш подход к установлению связей между людьми и ИИ, чтобы мы могли в конечном итоге потребовать объяснений от ИИ.
В частности, дает нам некоторую (несовершенную) степень самопонимания, сознание помогает нам достичь того, что нейробиолог Эндель Тулвинг назвал «путешествием по умственному времени». Мы сознаем, когда предсказываем последствия наших действий или планируем будущее. Я могу представить, как бы мне хотелось, если бы я махнул рукой перед моим лицом, даже не выполнив этого движения. Я также могу подумать о том, чтобы пойти на кухню, чтобы приготовить кофе, не вставая с кушетки в гостиной.
На самом деле, даже наше ощущение настоящего момента - это конструкция сознательного ума. Мы видим доказательства этого в различных экспериментах и тематических исследованиях. Пациенты с агнозией, которые повреждают участки распознавания объектов визуальной коры, не могут назвать объект, который они видят, но могут схватить его. Если они получат конверт, они знают, как ориентировать руку, чтобы вставить ее через почтовый ящик. Но пациенты не могут выполнить поставленную задачу, если экспериментаторы вводят временную задержку между показом объекта и сигналом испытуемого к нему. Очевидно, что сознание связано не с сложной обработкой информации как таковой; пока стимул сразу вызывает действие, нам не нужно сознание. Он вступает в игру, когда нам нужно поддерживать сенсорную информацию в течение нескольких секунд.
Важность сознания в преодолении временного разрыва также обозначается особым психологическим экспериментом по обучению. В классическом обучении, известном Ивану Павлову и его собакам, экспериментатор сочетает в себе стимул, такой как воздушная затяжка век или электрический удар пальцем, с несвязанным стимулом, таким как чистый тон. Испытуемые автоматически изучают парную ассоциацию без сознательных усилий. Услышав тон, они невольно отшатнутся в ожидании толчка или шока, и когда его спросили экспериментаторы, почему они это сделали, они не могут дать никаких объяснений. Но это подсознательное обучение работает только до тех пор, пока два стимула перекрываются друг с другом во времени. Когда экспериментатор задерживает второй раздражитель, участники учатся в ассоциации только тогда, когда они сознательно осознают отношения, то есть когда они могут сказать экспериментатору, что тон означает вздутие. Кажется, что осознание необходимо, чтобы участники сохраняли память о стимуле даже после его прекращения.
Эти примеры свидетельствуют о том, что функция сознания состоит в том, чтобы расширить наше временное окно на мир - дать настоящему моменту длительную продолжительность. Наша область сознательного сознания сохраняет сенсорную информацию в гибкой, удобной форме в течение периода времени после того, как стимул больше не присутствует. Мозг продолжает генерировать сенсорное представление, когда больше нет прямого сенсорного ввода. Временной элемент сознания можно проверить эмпирически. Фрэнсис Крик и Кристоф Кох предложили, чтобы наш мозг использовал лишь часть нашего визуального вклада для планирования будущих действий. Только этот вход должен быть соотнесен с сознанием, если планирование является его ключевой функцией.
AОбщей нитью в этих примерах является создание встречной информации. Это способность генерировать сенсорные представления, которые не находятся непосредственно перед нами. Мы называем это «контрфактуальным», потому что оно включает в себя память о прошлом или предсказания для неисполненных будущих действий, в отличие от того, что происходит во внешнем мире. И мы называем это «поколением», потому что это не просто обработка информации, но и активный процесс создания и тестирования гипотез. В мозгу сенсорный вход сжимается до более абстрактных представлений шаг за шагом, когда он течет из низкоуровневых областей мозга в высокоуровневые - одностороннего или «форсированного» процесса. Но нейрофизиологические исследования предполагают, что эта прямая развертка, какая бы сложная она ни была, не коррелирует с сознательным опытом. Для этого,
Создание контрафактной информации позволяет сознательному агенту отрываться от окружающей среды и выполнять нерефлексивное поведение, например, ждать в течение трех секунд перед тем, как действовать. Чтобы генерировать контрафактную информацию, нам нужно иметь внутреннюю модель, которая изучила статистические закономерности мира. Такие модели могут использоваться для многих целей, таких как рассуждение, управление двигателем и умственное моделирование.
Если мы не можем понять, почему ИИ делают то, что делают, почему бы нам не спросить их?
У наших ИИ уже есть сложные модели обучения, но они полагаются на то, что мы даем им данные для изучения. При создании встречной информации ИИ могли бы генерировать свои собственные данные, чтобы представить возможные фьючерсы, которые они придумывают сами по себе . Это позволит им гибко адаптироваться к новым ситуациям, с которыми они не сталкивались раньше. Это также обеспечило бы ИИ любопытством. Когда они не уверены, что произойдет в будущем, которое они себе представляют, они попытаются понять это.
Моя команда работает над реализацией этой возможности. Однако уже были моменты, когда мы ощущали, что созданные нами агенты AI показали неожиданное поведение. В одном эксперименте мы моделировали агентов, способных управлять грузовиком через пейзаж. Если бы мы хотели, чтобы эти агенты поднялись на холм, мы обычно должны были установить это как цель, и агенты найдут лучший путь. Но агенты, наделенные любопытством, определили холм как проблему и выяснили, как подняться на него, даже не будучи проинструктированным сделать это. Нам еще нужно сделать еще одну работу, чтобы убедить себя, что что-то новое происходит.
Если мы рассматриваем интроспекцию и воображение как два из компонентов сознания, возможно даже главных, то мы неизбежно вызываем сознательный ИИ, потому что эти функции настолько полезны для любой машины. Мы хотим, чтобы наши машины объясняли, как и почему они делают то, что делают. Построение этих машин будет осуществлять наше собственное воображение. Это будет окончательный тест на противодействующую силу сознания.
