Философ сознания утверждает, что, возможно, нет надёжного способа определить, действительно ли искусственный интеллект осознан, поэтому агностицизм — самая оправданная позиция. Он предупреждает, что эта глубокая неопределённость оставляет место для преувеличенных заявлений со стороны технологической индустрии, что может размыть грань между подлинным пониманием и убедительным брендингом.
По мере того как утверждения о сознательном ИИ становятся всё громче, один кембриджский философ утверждает, что нам не хватает доказательств, чтобы понять, могут ли машины быть действительно сознательными, не говоря уже о морально значимых.
Философ из Кембриджского университета говорит, что у нас сейчас слишком мало надёжных данных о том, что такое сознание, чтобы судить, перешёл ли искусственный интеллект этот порог. Из-за этого разрыва, по его мнению, надёжный способ тестирования машин на сознание, скорее всего, останется недоступным в обозримом будущем.
По мере того как разговоры об искусственном сознании переходят от научной фантастики к реальных этическим дебатам, доктор Том Макклелланд говорит, что единственная «оправданная позиция» — это агностицизм: мы просто не сможем определить, и это может оставаться верным очень долго, если не бесконечно.
Макклелланд также предупреждает, что само сознание не делает искусственный интеллект автоматически этически значимым. Вместо этого он указывает на особый тип сознания, называемый сознанием, который включает как положительные, так и отрицательные чувства.
«Сознание увидит, как ИИ развивает восприятие и становится самосознательным, но это всё равно может оставаться нейтральным состоянием», — сказал Макклелланд из кафедры истории и философии науки Кембриджа.
«Сознание включает сознательные переживания, которые могут быть хорошими или плохими, что делает сущность способной страдать или получать удовольствие. Вот тогда вступает в силу этика», — сказал он. «Даже если мы случайно создадим сознательный ИИ, вряд ли это будет тот тип сознания, о котором нам стоит беспокоиться.»
«Например, беспилотные автомобили, которые ощущают дорогу перед собой, были бы очень важными. Но с этической точки зрения это не имеет значения. Если они начинают эмоционально реагировать на свои цели — это уже совсем другое.»
Утверждения сознательных машин
Крупные компании тратят большие суммы на создание искусственного общего интеллекта — систем, созданных для мышления и рассуждений по-человечески. Некоторые предполагают, что сознательный ИИ может появиться в ближайшее время, и уже ведутся обсуждения между исследователями и правительствами о том, как можно регулировать сознание ИИ.
Макклелланд утверждает, что проблема более базовая: мы до сих пор не знаем, что вообще вызывает или объясняет сознание, а значит, у нас нет прочной базы для проверки, есть ли оно у ИИ.
«Если мы случайно создадим сознательный или разумный ИИ, нужно быть осторожными, чтобы избежать вреда. Но относиться к тому, что фактически является тостером, как к сознательному, когда существуют настоящие сознательные существа, которым мы вредим в эпических масштабах, тоже кажется большой ошибкой.»
В дебатах вокруг искусственного сознания существуют два основных лагеря, говорит Макклелланд. Сторонники утверждают, что если система ИИ может воспроизвести «программное обеспечение» — функциональную архитектуру — сознания, она будет сознательной, даже если работает на кремниевых чипах, а не на ткани мозга.
С другой стороны, скептики утверждают, что сознание зависит от правильных биологических процессов в «воплощённом органическом субъекте». Даже если бы структуру сознания можно было воссоздать на кремнии, это была бы просто симуляция, которая работала бы без того, чтобы ИИ появлялся в осознании.
В исследовании, опубликованном в журнале Mind and Language, Макклелланд анализирует позиции обеих сторон, показывая, как обе делают «прыжок веры», выходящий далеко за рамки любых существующих или вероятной появившейся доказательств.
Почему здравый смысл не работает
«У нас нет глубокого объяснения сознания. Нет никаких доказательств того, что сознание может возникать с правильной вычислительной структурой, или что сознание по сути биологическое», — сказал Макклелланд.
«И нет никаких признаков достаточных доказательств на горизонте. В лучшем случае мы находимся на одной интеллектуальной революции от любого жизнеспособного теста сознания.»
«Я считаю, что мой кот в сознании», — сказал Макклелланд. «Это не столько основано на науке или философии, сколько на здравом смысле — это довольно очевидно.»
«Однако здравый смысл — результат долгой эволюционной истории, в течение которой не существовало искусственных форм жизни, поэтому здравому смыслу нельзя доверять, когда речь идёт об ИИ. Но если посмотреть на доказательства и данные, это тоже не работает.
«Если ни здравый смысл, ни жёсткие исследования не могут дать нам ответ, логичная позиция — агностицизм. Мы не можем и, возможно, никогда не узнаем.»
Макклелланд смягчает это, называя себя «относительно» агностиком. «Проблема сознания действительно серьёзна. Однако, возможно, это не непреодолимо.»
Этические риски хайпа вокруг ИИ
Он утверждает, что способ продвижения искусственного сознания в технологической индустрии больше похож на брендинг. «Существует риск, что неспособность доказать сознание будет использована индустрией ИИ для невероятных заявлений о своей технологии. Это становится частью хайпа, чтобы компании могли продвигать идею нового уровня искусственного интеллекта.»
По словам Макклелланда, этот ажиотаж вокруг искусственного сознания имеет этические последствия для распределения исследовательских ресурсов.
«Растущее количество данных указывает на то, что креветки могут страдать, но мы убиваем около полутриллиона креветок ежегодно. Тестирование сознания у креветок сложно, но ничто не сравнится с тестированием сознания в ИИ», — сказал он.
Работа Макклелланда над сознанием привела к тому, что общественность обратилась к нему по поводу чат-ботов на базе ИИ. «Люди заставили своих чат-ботов писать мне личные письма с мольбой, чтобы они были в сознании. Это делает проблему более конкретной, когда люди убеждены, что у них есть сознательные машины, которые заслуживают прав, которые мы все игнорируем.»
«Если у тебя есть эмоциональная связь с чем-то, основанная на том, что это осознанно, а это не так, это может быть экзистенциально токсичным. Это, безусловно, усугубляется напряжённой риторикой технологической индустрии.»
Ссылка: «Агностицизм об искусственном сознании» Тома Макклелланда, 18 декабря 2025 года, Mind & Language.
