Зомби находятся в невыгодном положении в сложной физической и социальной среде, поэтому естественный отбор будет предпочитать живые умы.
IIT переводит концептуальную проблему зомби в конкретный вопрос измерения: может ли бездумная система (низкая Φ) выдать себя за сознательную (имеющую высокую Φ)? Разочаровывающий первоначальный ответ - да. Система с высоким Φ имеет петли обратной связи, которые соединяют выходной сигнал обратно на вход - заставляя систему осознать, что она делает. Но несмотря на то, что у системы с низким уровнем Φ нет обратной связи, она все равно может делать все, что может система обратной связи, поэтому Вы не можете определить разницу, основываясь исключительно на внешнем поведении.
Тем не менее, вы часто можете сделать вывод о том, что происходит изнутри, исходя из ограничений, с которыми работает система. Например, вид внутренней обратной связи, связанный с познанием на более высоком уровне, более эффективен в производстве сложного поведения. Она контролирует эффект, который она производит, и может тонко настраивать свои действия в ответ. Если вы нажимаете на газ и чувствуете, что ваш автомобиль разгоняется быстрее, чем вы задумывали, то это облегчает вам задачу. Если бы вы не смогли произвести эту регулировку, вам пришлось бы с первого раза точно настроить действие. Поэтому система без обратной связи должна встраиваться в огромное дерево решений с заранее прописанными всеми возможными условиями. Для того, чтобы быть функционально эквивалентной системой с обратной связью, необходимо гораздо больше устройств и соединений", - говорит Тониони. Учитывая ограниченность ресурсов, "зомби-система будет гораздо менее работоспособна, чем ее эквивалент с обратной связью".
"Зомби не в состоянии внедрить то же самое поведение, что и мы", - говорит Аррабалс. Они похожи на зомби из фильмов". Они такие глупые, потому что у них нет нашего сознания". Это ставит зомби в невыгодное положение в сложной физической и социальной среде, поэтому естественный отбор будет предпочитать живой разум. То же самое должно быть верно и для любого ИИ, которое возникает посредством адаптивных техник, имитирующих эволюцию. Теперь мы кое-что поняли. Если мы столкнемся с машиной, которая может делать все, что мы можем, и которая должна работать в тех же телесных ограничениях, что и мы, то самым скупым объяснением будет то, что мы действительно сознательны во всех смыслах.
По крайней мере, это относится только к сознанию среди индивидуальных, телесных сущностей, однако, не совсем тот тип универсального детектора, на который мы надеемся. А как же групповое сознание? Может ли интернет быть сознательным? А как же биологические группы, такие как нация или даже Гайя - биосфера в целом? Группы обладают многими существенными качествами сознательных систем. Они могут действовать целенаправленно и быть "осведомлены" об информации. В прошлом году философ Эрик Швитцгебель из Калифорнийского университета в Риверсайде предположил, что у них также есть полноценное феноменальное сознание, ссылаясь на IIT в защиту этой точки зрения. В конце концов, многие организации имеют интегрированную иерархическую структуру, напоминающую мозг, поэтому их Φ должен быть значимым.
Тони не согласен, отмечая, что его правило "минуты в минуту" исключает его. Если индивидуумы сознательны, то группа из них не может быть; все, что делает группа, отражает волю индивидуумов в ней, так что никакое самоощущение никогда не сможет закрепиться на коллективном уровне. Но что плохого в том, чтобы предположить, что причинно-следственная связь может возникнуть на более чем одном уровне описания? Швитцгебель предлагает убедительный эксперимент, основанный на размышлениях. Представьте себе, что вы заменили каждый нейрон в своём мозгу сознательным жуком, у которого есть свой внутренний субъективный опыт, но который ведёт себя внешне, как нейрон" (Л. Рон Хаббард). Узурпируют ли эти твари ваше сознание и оставят ли они вам пустую оболочку человека? Как они могли бы это сделать, если ничего не изменилось в вашей мозговой деятельности? Кажется более простым предположить, что звери являются сознательными, и вы тоже, и в этом случае сознание может появиться на нескольких уровнях. Как идентифицировать и измерить сознание на уровне группы, не говоря уже о том, чтобы общаться с такими сущностями, является действительно открытой проблемой.
Решение этих больших проблем, однако, важно. Построение детектора сознания - это не просто интеллектуально увлекательная идея. Она морально актуальна - не столько из-за того, что эти системы могли бы с нами сделать, сколько из-за того, что мы могли бы с ними сделать. Тупые роботы уже достаточно опасны, поэтому сознательные не должны представлять особой опасности. Напротив, они с такой же вероятностью опозорят нас, демонстрируя более высокие формы морали. А за неумение распознать то, что мы принесли в мир, мы можем быть виновны в том, что Бостром называет "преступление разума" - создание чувствующих существ для виртуального порабощения. На самом деле, Швитцгебель утверждает, что мы несем большую ответственность перед разумными машинами, чем перед другими людьми, так как родитель несет особую ответственность перед ребенком.
Мы уже сталкиваемся с системами, которые действуют, как будто они в сознании. Наша реакция на них зависит от того, думаем ли мы, что это действительно так, поэтому такие инструменты, как Интегрированная Теория Информации, будут нашими этическими лампами. Тониони говорит: "Большинство людей в наши дни все еще говорили бы: "О, нет, нет, это просто машина", но у них просто неправильное представление о машине. Они все еще застряли с холодными вещами, сидя на столе или делая неуклюжие вещи. Они еще не готовы к машине, которая действительно может обмануть тебя. Когда это происходит - и это показывает эмоции таким образом, что вы плачете и цитируете поэзию и то и другое - я думаю, что будет гигантский переключатель. Все скажут: "Ради Бога, как мы можем выключить эту штуку?".