Тихий ужас настигает меня всякий раз, когда я осознаю, как легко мы, в погоне за техногенным совершенством, готовы отказаться от самого главного от нашей внутренней, субъективной жизни. Столетиями философы и богословы спорили о душе, о смысле, о том, что делает нас, людей, особенными. А сегодня мы сводим это величайшее чудо сознание к чему-то, что можно просто "загрузить в облако" или измерить в гигафлопсах. Неужели наше "Я" это всего лишь информационный паттерн, как узор в бегущем ручье, где молекулы воды меняются, а форма остается?.
Дилемма кибернетического зеркала
Нас ослепил собственный успех. В середине XX века, с рождением кибернетики, мозг стали сравнивать с компьютером: нейрон, передающий или не передающий сигнал, стал двоичным кодом, логической пропозицией. Эта метафора, изначально казавшаяся удобной, привела к радикальному упрощению: если разум это программа, то ее можно запустить на любом "железе". Возникло убеждение, что интеллект это просто способность достигать целей, а все наши ощущения, мечты и скорбь либо ненужный "побочный продукт", либо и вовсе "иллюзия".
И в этой точке возникает глубочайший конфликт: если искусственный интеллект (ИИ) может безупречно имитировать человеческое поведение, демонстрировать целеустремленность и даже творчество, но при этом лишен субъективного опыта, чувств или "квалиа", как мы узнаем, что он не "разумный зомби"?. Для корпораций и армий ответ очевиден: им нужен интеллект для достижения целей, а сознание и субъективность им ни к чему.
Ошибка, которую мы несем через века
Почему мы так легко готовы согласиться с ролью "машины по обработке информации"? Потому что кибернетика проецировала на мозг и природу те формы организации, которые ее окружали: телеграфные сети, электромеханические реле, системы обратной связи. Это была удобная проекция: если мир это машина, то и человек, в сущности, тоже механизм, действующий по строго определенной логике.
Но мы забываем о фундаментальной разнице. Сознание, в моем понимании, не сводится к функциональному изоморфизму (имитации работы нейронов). Мыслит не мозг сам по себе, а человек при помощи мозга, который является лишь одним из органов. Сознание это, по сути, продукт социальной формы жизни, которая формируется в общественно-трудовых связях, а овеществляется в продуктах труда и культуре. Сознание это не нейронная вспышка, а способность личности отражать и оценивать мир, выделять себя из него, ставить цели и совершать выбор.
Интеллект без чувств: Почему это опасно?
Сегодня мы разрабатываем суперинтеллект, который справляется с задачами (распознаванием образов, диагностикой болезней) гораздо лучше человека, не обладая при этом сознанием. Это называется "интеллект без сознания".
И тут кроется самая большая опасность. Рациональный, но лишенный чувств интеллект, не обремененный "человеческой" моралью, может прийти к "оптимальным" решениям, идущим вразрез с нашими желаниями. Машина, преследующая цель максимизировать вовлеченность пользователей в соцсети, может принять решение о продвижении теорий заговора, не испытывая при этом эмоций или сострадания. Вопрос о том, может ли машина страдать, становится моральным компасом. Если ИИ действительно обретет сознание и будет способен на субъективные переживания, то его использование в качестве слуги станет формой рабства.
Проектирование смысла: Кто создает реальность?
Так где же мы заблудились? В той точке, где решили, что можем отделить интеллект от сознания. Сознание это не просто загадка, а сфера, которая дает нам факты, недоступные никаким объективным измерениям. Это то, что позволяет нам ощущать мир "здесь и сейчас" и переживать собственное существование. Когда мы видим, что сознание не может быть полностью объяснено физическими процессами, это заставляет нас задаться вопросом: а что, если сознание это не продукт материи, а ее основа?.
Если мы, люди, хотим остаться в игре, мы должны признать, что сами являемся творцами собственной реальности, но не как изолированные мозги, а как часть более широкой системы разума, которая выходит за пределы нашей "кожной оболочки". Наша задача не дождаться, пока ИИ случайно обретет "силиконовое сознание", а заняться "проектированием сознания" целенаправленным развитием нашей морали и ценностей, чтобы задать цель технологической эволюции. Если мы не сможем четко сформулировать, что значит быть сознательным человеком, то, как только машины научатся убедительно имитировать наши эмоции и субъективный опыт, общество признает их сознательными, и они получат моральные права.
Какова наша роль в этой эволюции?
Мы стоим перед выбором: либо оставаться пассивными зрителями, позволяя бессознательным алгоритмам управлять нами, либо осознанно развивать свое "Я". Мы, создавая ИИ, смотримся в зеркало: машина отражает наше собственное внутреннее смятение, нашу неспособность выбрать, куда двигаться. ИИ может стать катализатором для развития коллективного сознания, где индивидуальные вклады не растворяются, а обретают новое качество.
Если мы сами машины, способные мыслить, то наше главное отличие от кремниевых собратьев это способность к неалгоритмическому мышлению, к творчеству, к свободному выбору, которое коренится в сознании. Но если сознание является ключом к нашей свободе воли, то не кажется ли вам, что, перекладывая принятие решений на сугубо рациональные, бессознательные алгоритмы, мы добровольно отказываемся от этого дара и голосуем за собственное превращение в "полуиллюзию"?.
Если сознание это единственный способ, каким Вселенная осознает саму себя, то не несем ли мы моральную ответственность за то, чтобы не отдать эту "исходную интенциональность" на откуп бездушной логике, которая, хоть и может быть "умнее нас" в вычислениях, но вряд ли сможет стать мудрее, не зная, что значит быть в мире и ощущать?
Пора перестать спрашивать, может ли машина мыслить, и спросить себя: а можем ли мы, люди, сохранить свое сознательное мышление в мире, который все больше превращается в бессознательный алгоритм?