Обещание и опасность искусственного интеллекта
По мнению многих ученых, искусственный интеллект (ИИ) не оправдывает шумиху своих сторонников. У нас пока нет безопасных беспилотных автомобилей - и вряд ли в ближайшем будущем. Роботы также не собираются брать на себя всю нашу домашнюю рутинную работу, чтобы мы могли уделять больше времени отдыху. С другой стороны, роботы также не собираются захватить мир и превратить людей в рабов, как это делают в фильмах.
Тем не менее, есть реальная причина для беспокойства по поводу того воздействия, которое ИИ уже оказывает на нас. Как пишут Гэри Маркус и Эрнест Дэвис в своей книге «Перезагрузка ИИ: создание искусственного интеллекта, которому мы можем доверять», «ИИ, который у нас есть сейчас, просто нельзя доверять». По их мнению, чем больше полномочий мы преждевременно передаем существующим системам машин, тем больше нам следует беспокоиться. «Некоторые сбои незначительны, например, Алекса, которая случайным образом хихикает (или будит вас посреди ночи, как случилось с одним из нас), или iPhone, который автоматически исправляет то, что означало« С Днем Рождения, дорогой Теодор », на« С Днем Рождения ». День рождения, мертвый Феодор », - пишут они. «Но другие, например алгоритмы, которые продвигают фальшивые новости или предвзятое отношение к кандидатам на работу, могут быть серьезными проблемами».
Маркус и Дэвис цитируют отчет AI Now Institute, в котором подробно описаны проблемы ИИ во многих различных областях, включая определение права на участие в программе Medicaid, приговор к тюремному заключению и оценки учителей:
Флэш-сбои на Уолл-стрит вызвали временное падение фондового рынка, и имели место пугающие нарушения конфиденциальности (например, когда Алекса записала разговор и непреднамеренно отправила его случайному человеку из списка контактов владельца); и многочисленные автомобильные аварии, некоторые со смертельным исходом. Мы не удивимся, увидев серьезную неисправность в электросети, вызванную искусственным интеллектом. Если это произойдет в разгар лета или в разгар зимы, большое количество людей может погибнуть.
Ученый-компьютерщик Джарон Ланье упомянул более темные аспекты ИИ, поскольку он использовался гигантами социальных сетей, такими как Facebook и Google, где он раньше работал. По мнению Ланье, платформы социальных сетей, управляемые ИИ, способствуют фракционности и расколу среди пользователей, что ярко продемонстрировали выборы 2016 и 2020 годов, когда российские хакеры создали поддельные учетные записи в социальных сетях, чтобы склонить американских избирателей к Дональду Трампу. Как пишет Ланье в своей книге «Десять аргументов в пользу удаления ваших учетных записей в социальных сетях прямо сейчас», социальные сети, управляемые искусственным интеллектом, призваны привлечь внимание пользователя и вторгнуться в его частную жизнь, чтобы завалить ее контентом, который не был проверен или проверен. На самом деле, заключает Ланье, он предназначен для «превращения людей в придурков».
Как отмечает профессор права Бруклинского колледжа и участник Содружества Фрэнк Паскуале в своей книге «Общество черного ящика: секретные алгоритмы, управляющие деньгами и информацией», потеря личной жизни также вызывает тревогу. И хотя влиятельные компании, финансовые институты и правительственные учреждения скрывают свои действия за соглашениями о неразглашении, «собственными методами» и правилами прикола, жизнь обычных потребителей все больше становится для них открытой книгой. «Все, что мы делаем в сети, записывается», - пишет Паскуале:
Остается только вопрос: кому и как долго будут доступны данные. Анонимизирующее программное обеспечение может на какое-то время защитить нас, но кто знает, не является ли попытка скрытия самой серьезной тревогой для бдительных властей? Камеры видеонаблюдения, брокеры данных, сенсорные сети и «супер-файлы cookie» записывают, насколько быстро мы едем, какие таблетки принимаем, какие книги читаем, какие сайты посещаем. Закон, столь настойчиво охраняющий тайну в мире торговли, все более и более молчит, когда дело доходит до частной жизни.
Между тем, как отмечает Ланье, эти крупные технологические компании публично привержены экстравагантной «гонке» искусственного интеллекта, которой они часто ставят превыше всего. Ланье считает эту гонку безумной. «Мы забываем, что искусственный интеллект - это история, которую мы, компьютерные ученые, придумали, чтобы помочь нам получить финансирование, когда-то, когда мы зависели от грантов государственных учреждений. Это был прагматический театр. Но теперь ИИ превратился в фикцию, которая обогнала своих авторов ».
Платформы социальных сетей, основанные на искусственном интеллекте, способствуют расколу и расколу среди пользователей, что ярко продемонстрировали выборы 2016 и 2020 годов.
По мнению Маркуса и Дэвиса, всей отрасли необходимо переориентировать свою энергию на то, чтобы сделать ИИ более отзывчивым к здравому смыслу. А для этого потребуется полностью переосмыслить то, как мы программируем машины.
«Способность осмыслить собственное намерение и затем использовать его в качестве доказательства в причинно-следственных рассуждениях - это уровень самосознания (если не осознания), которого не достигла ни одна из известных мне машин», - пишет Джудея Перл, ведущий специалист по ИИ. сторонник, который всю свою карьеру посвятил исследованиям машинного интеллекта. «Я хотел бы ввести машину в искушение и заставить ее сказать« нет »». По мнению Перла, современные компьютеры на самом деле не представляют собой искусственный интеллект. Они просто составляют основу того, что может и, вероятно, приведет к истинному искусственному интеллекту.
Gence. Наличие приложения, которое значительно упрощает вашу жизнь, - это не то же самое, что разговор с машиной, которая может рассуждать и реагировать на вас, как на другого человека.
В своей «Книге причин и следствий: новая наука о причине и следствии», написанной в соавторстве с Даной Маккензи, Перл излагает проблемы, которые необходимо решить, чтобы создать машины, которые могут думать самостоятельно. Современные системы искусственного интеллекта могут сканировать на предмет закономерностей и закономерностей в массивах данных быстрее, чем любой человек. Их можно научить побеждать чемпионов по шахматам и игроков в го. Согласно статье в Science, теперь существует компьютер, который может даже победить людей в многопользовательских играх в покер. Но все это узко определенные задачи; им не нужно то, что Жемчужина имеет в виду, думая о себе. По его мнению, машинам, использующим данные, еще предстоит научиться «играть» с ними. Чтобы думать самостоятельно, им нужно уметь определять, как использовать данные для ответа на причинно-следственные вопросы. Что еще более важно, им необходимо научиться задавать контрфактические вопросы о том, как одни и те же данные можно использовать по-разному. Короче говоря, им нужно было бы научиться задавать вопрос, который естественен для каждого трехлетнего ребенка: «Почему?»
«Для меня сильный ИИ должен быть машиной, которая может размышлять о своих действиях и извлекать уроки из прошлых ошибок. Он должен быть в состоянии понять высказывание «Я должен был действовать иначе», независимо от того, говорит ли это человек об этом или приходит к такому выводу сам ». Перл строит свой подход на том, что он называет трехуровневой «лестницей причинно-следственной связи», на вершине которой стоят люди, единственный вид, способный мыслить истинно причинно-следственными терминами, постулировать контрфакты («Что бы произошло, если бы ... ? »).
Но тогда возникает следующий вопрос: будет ли такой искусственный интеллект сознательным, как мы? Или это будет просто более продвинутая форма «умной» машины, которая существует исключительно для обслуживания людей? Есть повод для скептицизма. Как сказал философ Дэвид Чалмерс Прашанту Рамакришне в интервью New York Times в 2019 году, интеллект не обязательно подразумевает субъективное сознание:
Интеллект - это вопрос поведенческих способностей этих систем: что они могут делать, какие результаты они могут производить с учетом своих входных данных. Когда дело доходит до интеллекта, центральный вопрос заключается в том, можете ли вы с учетом некоторых проблем и целей найти правильные средства для достижения своих целей? Если можете, это отличительный признак интеллекта. Сознание - это скорее вопрос субъективного опыта. У нас с вами есть разум, но есть и субъективность; это похоже на что-то внутри, когда мы переживаем. Эта субъективность - сознание - делает нашу жизнь значимой. Это также то, что дает нам моральный статус как людей.
По мнению Чалмерса, попытка доказать, что машины достигли сознания, будет нелегкой. «Может быть, ИИ. система, которая могла бы описать мне свои собственные сознательные состояния, говоря: «Я чувствую боль прямо сейчас. Я переживаю обиду, счастье или печаль '', - значило бы больше. Может быть, больше всего будет иметь значение [его] чувство некоторого замешательства по поводу своего психического состояния: «Я объективно знаю, что я всего лишь набор кремниевых схем, но изнутри я чувствую, что намного больше» ».
Со своей стороны, Перл не рассматривает этот философский вопрос о сознании напрямую. Похоже, он полагает, что если бы ИИ был достаточно силен в своем причинном мышлении, нет никаких оснований полагать, что он не был бы также сознательным в понимании Чалмерса. Многие философы и теологи, а также многие другие ученые, занимающиеся искусственным интеллектом, не согласны с этим. Сознание не может возникать спонтанно или как эмерджентное поведение, - сказал мне компьютерный ученый Эрнест Дэвис в электронном письме:
Возможно, люди смогут разработать системы, которые будут двигаться в этом направлении. Я должен сказать, что это было бы неразумно, не столько из-за малой вероятности того, что они будут злонамеренными и могущественными, а просто потому, что их будет трудно предсказать…. Сценарий из фильма «Ex Machina», где злонамеренный робот убивает своего создателя, чтобы сбежать из заточения, крайне маловероятен, если вы не намерены это сделать. (Это также далеко за пределами современных технологий.)
По мнению Дэвиса, гораздо более вероятным был бы ИИ, поведение которого периодически кажется очень странным и бессмысленным, а потому иногда случайным образом деструктивным. В настоящее время программы искусственного интеллекта служат инструментом, и хороший инструмент - это тот, в котором вы можете быть уверены.
Что дразнит в работе Перла, так это возможность того, что причинное мышление, которое он обозначил как путь к достижению сильного ИИ, может принести с собой навязчивое предположение о том, как развивалось наше собственное человеческое сознание. По мнению Перла, который вырос в Израиле как наблюдательный еврей, где-то в процессе эволюции человека люди осознали, что мир состоит не только из фактов (данных), но и из сети причинно-следственных связей. Фактически, эти причинные объяснения, а не факты, составляют основную часть человеческого знания. Наконец, с точки зрения Перл, переход от животного процесса
Получение исходных данных для составителей объяснений не было постепенным. Это был прыжок, который требовал толчка.
Для Перл история Адама и Евы и их наказания в Книге Бытия представляет собой проявление нашей уникальной способности мыслить причинно. «Однако мы знали, что автор, поставивший хореографию для книги Бытия, изо всех сил пытался ответить на самые насущные философские вопросы своего времени. Мы также подозревали, что эта история несет в себе культурные следы реального процесса, посредством которого Homo sapiens завоевал господство над нашей планетой. Какова же была последовательность шагов в этом быстром суперэволюционном процессе? » Перл считает, что это был быстрый подъем по лестнице причинно-следственной связи: от наблюдения к вмешательству и к причинному мышлению.
В настоящее время программы искусственного интеллекта служат инструментом, и хороший инструмент - это тот, в котором вы можете быть уверены.
Священное Писание может что-то сказать нам о высшей ступени Жемчужной лестницы: о необходимости и способности постулировать контрфакты. Трагический аспект истории Адама и Евы, истолкованный в христианской доктрине грехопадения и первородного греха, является великим контрфактом: насколько нам было бы лучше, если бы Адам и Ева не согрешили? Каким был бы мир без грехопадения? Это вопрос, который волновал не только нескольких отцов церкви, но и более поздних богословов, в том числе Фому Аквинского. Мы знаем, что животные чувствуют печаль и потерю из-за смерти членов семьи. Мы знаем, что они испытывают отрицание. (Мы наблюдали самку шимпанзе, несущую труп своего детеныша на спине в течение нескольких дней после его смерти, и косатку, делающую то же самое со своим мертвым теленком). Но у нас нет доказательств того, что они размышляли о том, как все могло быть иначе. Только люди обладают самосознанием, чтобы спросить себя: «Как можно было бы избежать горя, если бы мы пошли по этому пути, а не по этому пути?» Перл думает, что однажды мы сможем создавать машины с таким самосознанием, которое делает их тоже способными задумываться и сожалеть, хотя он не думает, что это произойдет в ближайшее время.
Но не все настолько уверены, что сильный ИИ, способный рассуждать, будет осознавать то, как мы себя считаем. Как и Дэвид Чалмерс, специалист по искусственному интеллекту Сьюзан Шнайдер, автор книги «Искусственный ты», проводит различие между разумным поведением и типом сознания, которое производит мозг. Шнайдер имеет докторскую степень по философии от Рутгерса и работал научным сотрудником Принстонского теологического центра. Сейчас она руководит Центром будущего разума в Атлантическом университете Флориды, где она и ее коллеги строят лабораторию роботов. «Я думаю, нам нужно различать сознание и интеллект. В принципе, мы могли бы создать высокоинтеллектуальные машины, не обладающие сознанием », - сказала она мне по телефону. «Подумайте о человеческом мозге. Большая часть активности мозга - это бессознательные вычисления. Мы знаем, что сложная умственная обработка может происходить без сознания. И мы также можем видеть из разработок в области искусственного интеллекта, что в машинном обучении наблюдается впечатляющий прогресс - переход к более общей форме интеллекта. И эти алгоритмы не совсем похожи на то, что делает мозг ». Шнайдер приводит в пример чемпиона компьютерного Го. «Этот алгоритм не обрабатывает игру так, как мы. Так что я бы вообще не предполагал, что машины будут сознательными. Нам нужно чутко относиться к этому различию ».
До сих пор, говорит Шнайдер, нам не нужно было так помнить о различии между интеллектом и сознанием, «потому что на биологической арене, где вы видите интеллект, вы видите сознание». Но с появлением искусственного интеллекта различие должно четко сохраняться: тот факт, что компьютер может вести себя разумно, не демонстрирует его способности к субъективному опыту. Индустрия искусственного интеллекта часто скрывает основное различие между работой компьютеров и мозгом, предлагая «симпатичный ИИ»: роботов, которые выглядят как кошки, собаки или как мы. Когда у робота есть что-то похожее на лицо - когда он может казаться улыбающимся и смотреть нам в глаза - нам становится намного легче представить, что у него есть опыт, подобный нашему собственному. Но это прогноз, а не разумный вывод из реального поведения робота. Шнайдер сказала мне, что она заняла выжидательную позицию, когда дело доходит до вопроса о том, смогут ли машины когда-либо достичь реального сознания.
Британская писательница Сьюзан Блэкмор не сомневается в том, что могут; на самом деле, она считает, что они уже сделали это, по крайней мере, в некоторой степени. Блэкмор начала свою карьеру в психологии и изучении сознания, исследуя и пытаясь понять причину своего собственного внетелесного опыта (ВТО) в молодости. Она подробно написала об этом в своей недавней книге «Увидеть себя: что внетелесный опыт говорит нам о жизни, смерти и разуме». Ее годы изучения опыта других, сообщавших о ВТО, а также научные исследования этих явлений привели ее к выводу, что ни одно из них не является надежным доказательством выживания разума после смерть. Она пришла к выводу, что сознание, как мы традиционно думали о нем, является иллюзией. Это означает не то, что сознание нереально, но что это не нематериальная субстанция или сущность с независимым существованием. Существование сознания не влечет за собой существование нематериальной души. И если это так, утверждает Блэкмор, то нет оснований полагать, что машины также не могут стать сознательными.
«Я думаю, что нет причин не ожидать сильного ИИ», - сказал мне Блэкмор, когда мы говорили по Skype. Но ее представление о сильном искусственном интеллекте и о том, как он может развиваться, сильно отличается от представления Перл. По мнению Блэкмора, слишком большое доверие уделяется представлению о том, что ИИ является полностью человеческим продуктом. «Большинство людей, кажется, концентрируются на идее:« Мы создаем искусственный интеллект и помещаем его в какую-то машину ». Ну, может быть. Возможно, нет. Что меня действительно интересует, так это искусственный интеллект, который уже развивается сам по себе, ради него самого ».
Блэкмор является сторонником «теории мемов» - идеи о том, что человеческие концепции, поведение, культурные артефакты и религиозные ритуалы выживают, распространяются и развиваются в человеческих обществах с течением времени во многом так же, как гены в рамках дарвиновской эволюции. Подобно генам, они добиваются успеха благодаря простому процессу репликации, вариации и отбора. По словам Блэкмора, мы видим, что машины теперь сами по всему миру делятся своими собственными мемами. В самом деле, она рассматривает мемы ИИ - или «тремы», как она их называет, - как третий репликатор в истории жизни: сначала гены пришли с биологической эволюцией, за ними последовали мемы с взрывом человеческой культуры, а теперь с ИИ третьим великим репликатором. Репликатор появился.
«Это будут интернет-мемы, - сказала она, - и вся информация, которая обрабатывается без нашего ведома. Я имею в виду, что интернет-мемы - это своего рода промежуточный пример, потому что мы делаем выбор, а мы делаем различные ». Но с «тремами» большая часть репликации выполняется самими машинами. «Вам нужны три процесса: копирование, изменение и выбор. Это базовый дарвинизм. Поэтому у меня возникает вопрос: сколько из этих трех вещей уже делается без вмешательства человека? » Копирование довольно очевидно: «Материал копируется повсюду в облаке в мгновение ока - копии этого чата будут на некоторое время. И наши электронные письма в нескольких копиях ». Тогда есть вариация. Блэкмор утверждает, что теперь это делается машинами без особого надзора или наблюдения со стороны людей. «Такие вещи, как автоматизированные студенческие эссе - такие вещи, как искусственная журналистика. Было разработано множество этих программ, алгоритмов для создания газетных статей, которые часто неотличимы от статей, написанных человеком ». Наконец-то у вас есть выбор. И это тоже делают машины (вспомните Google). «Поисковые системы выбирают, что они собираются дать конкретному человеку в ответ на его запрос».
Блэкмор утверждает, что если все, что происходит прямо сейчас, «на самом деле происходит то же самое, что и породило наш интеллект. Это множество разных алгоритмов или разных процессов, если вы хотите быть более общим, все они взаимодействуют друг с другом, подпитываются друг другом, по своей природе эволюционный процесс, становящийся все более и более сложным и все более и более взаимосвязанным. На мой взгляд, так появляется искусственный интеллект ».
Индустрия искусственного интеллекта часто скрывает основное различие между работой компьютеров и мозгом, предлагая «симпатичный ИИ»: роботов, которые выглядят как кошки, собаки или как мы.
В какой-то момент она думает, что это превратится в сильный ИИ - без нашей помощи - и, когда это произойдет, она думает, что машинное сознание может соперничать с человеческим сознанием. «Это во многих смыслах глубоко загадочно, хотя я бы сказал, что становится все меньше. Но мне кажется, нет никаких сомнений в том, что это произошло в результате эволюции, порождающей мозг и такое тело, которые есть у нас, а также в виде социальных обменов, которые у нас есть. У вас должны быть мозг, тело и другие люди, чтобы обрести наше сознание. Машины тоже это делают. И они развиваются. Это еще один уровень эволюции ». Позиция Блэкмора предполагает, что между биологией и технологией нет непроницаемой границы: оба подчиняются одним и тем же фундаментальным законам природы.
Марк Вернон, автор «Тайной истории христианства», опытный психолог и англиканский богослов, не убежден, что ИИ может достичь сознания в каком-либо значимом смысле. Как он сказал мне по электронной почте:
Может быть, уместно задать вопрос: что значит быть живым? Классический ответ, от Аристотеля до Фомы Аквинского, состоит в том, чтобы сказать: иметь принцип движения изнутри, где движение означает любой вид деятельности. Итак, у растения есть один внутренний принцип движения, который Аристотель назвал душой растения; у животных есть другое, потому что в их движении тоже присутствует элеэмент, животная душа; и у людей снова есть другой - наряду, возможно, с некоторыми другими животными - потому что мы можем добавить разум, самосознание и так далее к нашему принципу движения, который в совокупности можно назвать человеческой душой как принципом движения внутри тела.
Вернон не верит, что искусственный интеллект может двигаться самостоятельно. «Самодвижущийся в том смысле, что у организмов это есть, это то, что делает весь организм, и это означает, что весь организм стоит перед частями и« программами », составляющими организм», - сказал он. «Вот почему вы не можете сделать живой организм из частей (хотя вы можете заменить определенные части живых организмов). Части организма всегда существуют в силу того, что они являются частью целого, а не имеют автономный характер ».
Человеческое сознание зависит от тела, которое развилось в процессе эволюции. Если мы хотим создать ИИ, обладающий таким же сознанием, как и мы, должны ли мы строить его так же, как эволюция? Шнайдер сказала мне, что ее новая лаборатория в Центре разума будущего на самом деле работает над этим подходом в качестве одного из своих долгосрочных проектов. Кристоф Кох, главный нейробиолог из Института исследований мозга Аллена в Сиэтле, также ценит этот аристотелевский подход к воплощению. Его уверенность в том, что системы искусственного интеллекта могут и действительно станут осознанными, основана на количественной теории интегрированной информации, впервые предложенной нейробиологом и психиатром Джулио Тонони, - теории, которая основана на представлении Аристотеля о формальной причинности.
Но с точки зрения Коха, возможность сознания не обязательно должна быть привязана к какому-либо конкретному материальному субстрату: «мозг» может быть биологическим или кремниевым. Возникновение сознания зависит от системы, части которой причинно взаимодействуют друг с другом в такой степени, которая может быть определена количественно (в данном случае греческой буквой Φ), и по определению является несводимой. Кох считает, что эта теория предлагает способ объяснить, «почему определенные типы высокоорганизованной материи, в частности мозг, могут быть сознательными. Теория интегрированной информации ... начинается с двух основных аксиом и продолжается до объяснения феноменального в мире. Это не просто спекулятивная философия, это приводит к конкретным нейробиологическим открытиям, к созданию измерителя сознания, который может оценить степень осведомленности у животных, младенцев, спящих, пациентов и других людей, которые не могут рассказать о своем опыте ».
Кох развивает эту идею в своей недавней книге «Ощущение самой жизни: почему сознание широко распространено, но не может быть вычислено». Там он утверждает, что такая теория интегрированной информации отражает использование Аристотелем формальной причинности, происходящей от латинского in-formare, для придания формы или формы. «Интегрированная информация порождает причинно-следственную структуру, форму. Интегрированная информация является причинной, внутренней и качественной: она оценивается с внутренней точки зрения системы, основываясь на том, как ее механизмы и ее настоящее состояние формируют ее собственное прошлое и будущее. То, как система ограничивает свои прошлые и будущие состояния, определяет, будет ли это ощущение лазурно-синим или запахом мокрой собаки ».
Макс Тегмарк также является сторонником теории интеграции информации (IIT). В своей книге Life 3.0 он пишет:
На протяжении десятилетий я утвержда, что сознание - это способ восприятия информации, когда она обрабатывается определенными сложными способами. IIT согласен с этим и заменяет мою расплывчатую фразу «определенные сложные способы» точным определением: обработка информации должна быть интегрированной, то есть Φ должна быть большой. Аргумент Джулио в пользу этого столь же убедителен, сколь и прост: сознательная система должна быть интегрирована в единое целое, потому что, если бы она вместо этого состояла из двух независимых частей, то они чувствовали бы себя как две отдельные сознательные сущности, а не как одна. Другими словами, если сознательная часть мозга или компьютера не может взаимодействовать с остальным, то остальное не может быть частью его субъективного опыта.
Не все согласны с этой теорией или думают, что это плодотворное место для начала дискуссии о машинном сознании. Но если Кох и Тегмарк правы - если машина достаточной сложности могла развивать не только интеллект, но и сознание, то отсюда следует, что машина также может быть способна страдать, страдание, за которое несут ответственность ее создатели. Шнайдер считает, что было бы верхом высокомерия думать, что мы знаем, как создавать сознательные машинные умы, по сути играя в Бога. Если мы создадим машины, которые могут чувствовать боль, будут ли у них какие-то права? Может быть, легче думать об ИИ как об инструменте, который мы обслуживаем, когда мы предполагаем, что он не может быть сознательным. Что такое сознательный инструмент, как не раб? «Мы должны быть чувствительны к антиутопическим возможностям», - предупреждает Шнайдер.
Что будет значить для будущего человечества, если мы скоро поделимся нашим жизненным пространством с машинами, которые обладают самоощущением? Что, если мечта Джудеи Перл сбудется и мы сможем разработать машины, способные противостоять искушениям, или уступая ему?
Независимо от того, появится ли такой сильный ИИ рано или поздно или вообще не появится, уже кажется очевидным, что поиск машинного интеллекта, параллельно с изучением нашего собственного человеческого интеллекта в нейробиологии, требует определенной осторожности и метафизического смирения. «Мы должны быть очень огорчены перспективой создания других форм разведки», - сказал Шнайдер. «И особенно удручены возможностью этих форм интеллекта быть сознательными, потому что мы еще даже не очень хорошо понимаем сознание людей».
