В 2016 году Алан Уинфилд выступил на Всемирном экономическом форуме с докладом "IdeasLab" о создании этичных роботов. "Можем ли мы создать моральную машину?" спросил Уинфилд у своей аудитории. Позади него, на экране телевизора, стоял один из ботов, которых Уинфилд использовал в своих экспериментах - короткая, симпатичная, бело-голубая человекоподобная машина. Всего несколько лет назад, сказал он, он считал, что это невозможно: Нельзя создать робота, способного действовать на основе этических правил. Но это было до того, как он понял, что можно заставить роботов делать, если у них есть воображение - или, менее грандиозно, "двигатель последствий", симулированная внутренняя модель себя и окружающего мира.
Уинфилд показал ролики о своих экспериментах в Бристольской лаборатории робототехники в Англии. В одном из них синий робот спас красного робота от попадания в "опасную зону", мягко столкнувшись с ним. В другом - два красных робота направлялись в опасную зону, а синий робот мог спасти только одного - этическая дилемма, которая заставляла его раздумывать между двумя. "Робот ведет себя этично не потому, что он так решил, а потому, что он запрограммирован на это", - сказал Уинфилд. "Мы называем его этическим зомби". Его рассуждения совершенно прозрачны. "Если что-то пойдет не так, мы сможем воспроизвести то, о чем думал робот". Уинфилд считает, что это будет иметь решающее значение для будущего. "Автономным роботам понадобится эквивалент регистратора полетных данных в самолете - этический черный ящик". Этот этический черный ящик, считает Уинфилд, позволит нам понять вопросы "что если", которые задавал себе робот.
Уинфилд - профессор этики роботов в Университете Западной Англии в Бристоле. Он является одним из основателей Бристольской лаборатории робототехники, крупнейшей подобной лаборатории в Великобритании, и автором книги "Робототехника: A Very Short Introduction. Он специализируется на когнитивной робототехнике - как машины могут думать и воображать. Во время выступления в Google, также в 2016 году, Уинфилд объяснил, как роботы могут достичь собственной теории разума и самосознания. Совсем недавно, совместно с психологом Сьюзен Блэкмор, автором книги "Сознание: A Very Short Introduction, Уинфилд продвинулся в своей работе над воображением роботов дальше, в область того, что мы можем назвать культурой роботов. Исследователи планируют эксперименты со "Storybots", роботами, которые могут рассказывать друг другу истории. Они говорят, что это новый способ понять человеческую способность к культуре и то, как наши идеи распространяются и изменяются.
"Роботы-сказочники имеют несовершенную коммуникацию, поэтому истории будут мутировать по мере их рассказа и пересказа", - пишут Уинфилд и Блэкмор в работе 2021 года, опубликованной в Philosophical Transactions of the Royal Society B. Механизм следствий "открывает возможность воспроизведения и визуализации любого эпизода в "воображении" робота". Это позволяет проследить, как роботы видят свои собственные истории по мере того, как они переходят от робота к роботу. Параллели с нашей культурой поразительны. Если мы будем вводить в группу новых роботов в разное время, мы можем увидеть появление "старшего" робота-рассказчика, которому будет присвоен престиж", - пишут Уинфилд и Блэкмор.
В недавней беседе в Zoom с Nautilus Уинфилд отметил, что он немного необычный робототехник. "Я не очень интересуюсь роботами с точки зрения их полезности в реальном мире", - сказал он. "Я ученый-инженер. Для меня робот - это микроскоп для изучения интересных вопросов, связанных с интеллектом, эволюцией, жизнью и культурой". Было очень приятно побеседовать с Уинфилдом о его работе и взглядах на сознание. Поскольку одним из основных направлений его работы является этика роботов, я должен был спросить его, что он думает о том, как компания Tesla использует потребителей для обучения технологии самостоятельного вождения.
Элон Маск назвал Tesla крупнейшей робототехнической компанией, потому что их автомобили - это, по сути, роботы на колесах. Что вы думаете об усилиях Tesla по достижению автономного вождения?
Несомненно, они производят очень хорошие автомобили. Я гораздо более скептически отношусь к технологии автопилота. Мы полагаемся на заверения производителей в том, что они безопасны. Я много работаю с Британским институтом стандартов и Ассоциацией стандартов Института инженеров по электротехнике и электронике. Стандарты для автопилота автомобилей без водителя еще не написаны. Если у вас нет стандартов, то проверить безопасность такой системы довольно сложно. По этой причине я очень критически отношусь к тому факту, что вы можете загрузить автопилот на свой страх и риск. Если вы не будете внимательны и автопилот даст сбой, вы можете, если вам очень не повезет, поплатиться жизнью.
Я считаю, что мы должны иметь возможность создавать машины с искусственным сознанием.
Вы общались с владельцами Tesla?
Я знаю несколько человек, у которых есть Tesla. Несколько лет назад я обсуждал с одним из них, как ему повезло, что он был внимателен, когда что-то случилось на автостраде в Англии и ему пришлось совершить маневр уклонения, чтобы избежать серьезной аварии. В этом парадокс автомобилей без водителя - страховые компании требуют, чтобы водители были бдительны и внимательны, но при этом количество времени, которое они должны потратить на реакцию, неоправданно мало. Автономные автомобили имеют смысл только тогда, когда они станут достаточно продвинутыми и сложными, чтобы у вас даже не было руля. А это еще далеко в будущем. Очень далеко.
Как вы оцениваете то, как Tesla обучает свою технологию автопилота?
В рамках своей программы развития они используют людей, по сути, в качестве подопытных. И другие участники дорожного движения, в некотором смысле, невольно становятся частью этого процесса. В принципе, это звучит разумно, но я думаю, что последствия для безопасности очень неразумны.
Справедливо. Расскажите, как вы заинтересовались экспериментами с культурой роботов.
Моя подруга и соавтор Сьюзан Блэкмор несколько лет назад написала книгу под названием "Машина мемов". Вы знакомы с идеей мемов. Мем был предложен Ричардом Докинзом в его еще более известной книге "Эгоистичный ген", где он определил мем как единицу культурной передачи, как культурный аналог, если хотите, гена. Отсюда и сходство между этими двумя словами. Но мемы довольно трудно определить в том смысле, что ген обычно имеет определенное кодирование, связанное с ним как с частью ДНК. Это одно из критических замечаний в адрес меметики. Но давайте оставим эту критику в стороне. Дело в том, что идеи и модели поведения распространяются в человеческой культуре и, фактически, в культуре животных путем подражания. Подражание - это фундаментальный механизм распространения моделей поведения. Люди, безусловно, являются лучшими имитаторами среди всех известных нам животных. Похоже, что мы рождаемся со способностью к подражанию в младенчестве. Нас интересует моделирование этого процесса подражания в поведении.
Я считаю, что мы первые, кто смоделировал культурную эволюцию с помощью реальных физических роботов.
Вы начали с создания так называемых роботов-копий. Мне нравится, что идея их создания когда-то была всего лишь мысленным экспериментом, который придумал Блэкмор.
Да. Мы смогли создать копиботы по-настоящему, с помощью физических роботов. Они маленькие, чуть больше солонки, но очень сложные. У каждого из них есть компьютер Linux с WiFi. Он может видеть с помощью камеры. У него есть что-то вроде чувства осязания благодаря кольцу из восьми инфракрасных датчиков. Мы запустили некоторых роботов с танцем. Шаблон движения описывал треугольник или квадрат, а другие роботы наблюдали за этим движением с помощью своей камеры. Имитация была воплощена. Мы не допускаем телепатии между роботами, хотя это было бы очень просто организовать. Это процесс умозаключения, как если бы вы наблюдали за своим учителем танцев и пытались подражать его движениям.
Что особенного в способности роботов-копий подражать друг другу?
Принципиально важной частью нашей работы является то, что роботы, даже находясь в относительно чистой и незагроможденной среде, все равно плохо подражают. Точность подражания имеет тенденцию варьироваться в широких пределах даже в рамках одного эксперимента. Это позволяет наблюдать за появлением, эволюцией, новых вариаций такого поведения. Новые танцы, как правило, появляются в результате этой менее чем идеальной точности. Самое замечательное в этих реальных физических роботах то, что вы получаете шумную имитацию бесплатно.
Какие признаки того, что подражание может привести к возникновению культуры, вы видите?
Мы видим наследственность, потому что поведение роботов имеет родителей, бабушек и дедушек. У вас также есть отбор. Если в вашей памяти есть, скажем, 10 танцев, и пять из них очень похожи, а другие пять очень разные, вы с большей вероятностью выберете один из пяти похожих, потому что они более доминирующие. Если вы выбираете случайным образом с равной вероятностью, вы с большей вероятностью выберете один из этих доминирующих танцев. Таким образом, вы видите возникновение простых традиций, если хотите, и появление нового танца. Он становится доминирующим в коллективной памяти всех роботов. Это действительно свидетельствует о возникновении искусственных традиций - то есть культуры. Это демонстрация того, что эти очень простые роботы могут моделировать что-то очень важное.
Что еще вы обнаружили, экспериментируя с роботами-копиями?
Мы обнаружили, что мемы, которые появляются со временем, танцы, эволюционируют, чтобы их было легче передавать. Они эволюционируют, чтобы соответствовать физиологии, сенсорике роботов. Я считаю, что мы первые, кто смоделировал культурную эволюцию с помощью реальных физических роботов.
Роботы-сказители, с которыми вы работаете, выводят имитацию и культурную коммуникацию на новый уровень. Можете ли вы рассказать нам об этом?
Только недавно, в последние пару лет, мы со Сью Блэкмор поняли, что можем расширить историю искусственной культуры, работу роботов-копировщиков, до роботов-рассказчиков, где роботы-рассказчики будут буквально рассказывать друг другу истории. Это следующий шаг. Мы очень рады этому. У нас были бы некоторые результаты, если бы не пандемия, которая закрыла лабораторию на лучшую часть года или даже больше". Они основываются на другом направлении работы, которым я занимаюсь уже около пяти или шести лет, работая над роботами с симуляцией самих себя внутри себя. Это технически сложно сделать, особенно если вы хотите запускать роботов в реальном времени и обновлять их поведение на основе того, что робот себе представляет.
Как воображение робота связано с рассказыванием историй?
В некотором смысле это все еще имитация поведения, но имитация поведения через гораздо более сложный механизм, который заключается в том, что вы рассказываете мне историю, а я затем повторяю ее, но повторяю ее после того, как я заново представил ее и интерпретировал, как если бы это было мое собственное воображение. Именно это происходит с рассказом, особенно с устным рассказом. Если вы расскажете историю своей дочери, а она перескажет ее вам, она наверняка изменится. Скорее всего, это будет немного другая история". Робот-слушатель будет слышать речевую последовательность от другого робота с помощью своих микрофонов, а затем переосмысливать ее в своем собственном, встроенном функциональном воображении. Но поскольку передача устной речи происходит с шумом, мы, вероятно, получим то, что происходит при игре в телефон. Язык является чрезвычайно мощным средством культурной передачи. Возможность смоделировать это сделает огромный шаг вперед.
Робот - это фантастический микроскоп для изучения вопросов в области наук о жизни.
Хотите ли вы когда-нибудь увидеть человекоподобных роботов с собственной культурой?
Это чисто научный проект. Я не особенно заинтересован в буквальном создании роботов, обладающих культурой. Это просто моделирование интересных вопросов о возникновении культуры у животных и человека. Я не отрицаю, что в будущем у роботов может появиться культура. Вы можете представить себе будущее поколение роботов-антропологов, изучающих это, пытающихся понять смысл этого.
Что делает роботов таким полезным инструментом для понимания самих себя?
У роботов есть физические тела, как и у нас. Роботы видят мир от первого лица. И их восприятие мира, в котором они находятся, несовершенно, несовершенно. Поэтому существует достаточное количество сходств, чтобы модель в определенном смысле была правдоподобной - при условии, конечно, что вы не будете задавать вопросы, которые выходят за рамки возможностей роботов. Разработка экспериментов и выдвижение исследовательских гипотез, которые можно разумно проверить, учитывая ограничения роботов, - часть удовольствия от этой работы.
Как вы думаете, можно ли создать роботов с сознанием, или это нечто уникальное для биологических существ, таких как мы?
Хотя это глубоко таинственно и загадочно, я не думаю, что в сознании есть что-то магическое. Я, конечно, не согласен с теми, кто считает, что для возникновения сознания необходимы какие-то уникальные вещи. Я материалист. Мы, люди, сделаны из физического материала, и мы, очевидно, обладаем сознанием, как и многие животные. Вот почему я думаю, что мы должны быть в состоянии создать искусственно сознательные машины. Мне хотелось бы думать, что работа, которую мы ведем над внутренними моделями роботов и искусственной теорией разума на основе симуляции, - это шаг в направлении машинного сознания.
Вы беспокоитесь, что мы можем наткнуться на создание роботов, которые могут страдать, которые могут чувствовать, что их собственные желания и стремления игнорируются или пресекаются?
У меня есть такие опасения. Более того, мой друг, немецкий философ Томас Метцингер, утверждает, что нам, как ответственным робототехникам, следует беспокоиться. Один из аргументов, который приводит Томас, заключается в том, что ИИ может страдать без вашего осознания того, что он страдает.
ИИ являются моральными субъектами, но только в том ограниченном смысле, в котором я не верю, что животные должны страдать. Жестокое обращение с животными - это определенно то, что мы должны полностью пресекать и избегать. По этой же причине, если и когда мы создадим более сложные машины, я думаю, что уместно не быть жестокими и по отношению к ним.
Считаете ли вы, что роботы и искусственный интеллект станут ключом к пониманию сознания?
Я думаю, что да. Возможно, вам известна цитата Ричарда Фейнмана, который сказал: если я не могу это построить, значит, я этого не понимаю. Я очень привержен так называемому синтетическому методу, по сути, занимаясь наукой путем моделирования вещей. Робот - это фантастический микроскоп для изучения вопросов в области наук о жизни.
Как мы узнаем, что создали сознательную машину?
Я помню, как спросил своего старого друга Оуэна Холланда, который, как мне кажется, был одним из тех, кто получил первый в Великобритании, если не в мире, грант на исследование машинного сознания: "А как вы узнаете, что создали машину?". Его ответ был: "Ну, мы не знаем, но мы можем узнать что-то интересное по пути". Это всегда так.
