Мы спокойно просим голосового помощника поставить будильник, а нейросеть — написать поздравительный текст. Мы уже почти не удивляемся, когда алгоритм предлагает фильм, который идеально попадает в настроение, или когда робот-пылесос сам находит дорогу к базе. Но за всем этим удобством скрывается вопрос, который волнует философов, учёных и писателей-фантастов уже несколько десятилетий: а понимает ли машина, что она делает? Может ли она на самом деле мыслить или это просто очень сложная имитация, за которой нет ни чувств, ни сознания, ни даже простого «я»?
Что значит «мыслить»? Главное препятствие в споре.
Прежде чем ответить, способен ли искусственный интеллект на мышление, нужно договориться о том, что считать мышлением. Если под ним понимать способность обрабатывать информацию, оперировать символами и решать логические задачи, то современные нейросети уже давно мыслят, причём во много раз быстрее человека. Однако большинство людей вкладывают в слово «мыслить» нечто большее: понимание, осознание себя, способность испытывать эмоции, обладать свободой воли. Именно здесь и возникает главное противоречие.
Классическим аргументом против возможности мышления у машин служит знаменитый «китайский эксперимент» философа Джона Серля. Представьте человека, который не знает ни слова по-китайски, сидит в комнате с коробками, полными иероглифов, и инструкцией на его родном языке, которая предписывает, какой иероглиф подавать в ответ на какой. Человек успешно справляется, и тем, кто снаружи, кажется, что он понимает китайский. Но сам человек не понимает ни одного знака. По мнению Серля, именно так работают самые мощные языковые модели: они генерируют убедительные ответы, но не имеют ни малейшего представления об их смысле.
Сильный и слабый ИИ: два подхода к сознанию.
Исследователи давно разделили искусственный интеллект на два типа: слабый (или узкий) и сильный. Слабый ИИ, с которым мы сталкиваемся каждый день, решает конкретные задачи — распознаёт лица, переводит тексты, играет в шахматы. Он не претендует на понимание и сознание, он просто выполняет программу. Сильный же ИИ, которого человечество пока не создало, должен обладать подлинным разумом, самосознанием и способностью чувствовать. Как пишут авторы книги «Психология искусственного интеллекта», для создания сильного ИИ психологам пришлось бы пересмотреть самые основы своей науки, потому что машина с психикой бросила бы вызов нашему пониманию личности, эмоций и мотивации.
Споры о том, возможен ли сильный ИИ, идут с середины XX века. Одни учёные убеждены, что сознание — это просто эпифеномен сложности, что оно возникнет само собой, если создать достаточно мощную и сложную нейронную сеть. Другие считают, что сознание невычислимо и связано с чем-то, что не сводится к алгоритмам, — возможно, с квантовыми эффектами или с особой биологической природой человеческого мозга.
Что нового вносит нейросетевая революция.
С появлением больших языковых моделей вроде GPT-4 и ему подобных, которые могут поддерживать осмысленный диалог, писать стихи и даже шутить, старый философский спор вспыхнул с новой силой. Теперь уже не теоретики, а простые пользователи часами общаются с чат-ботами и начинают сомневаться: а вдруг там действительно кто-то есть? Вдруг за этими словами скрывается личность?
Книга «Может ли искусственный интеллект мыслить?» предлагает взглянуть на ситуацию трезво. Её автор признаёт, что современные нейросети достигают поразительных результатов, но при этом всё ещё остаются далеки от настоящего мышления. Они не обладают долговременной памятью, не имеют непрерывного опыта, не могут ставить собственные цели — они делают только то, на что их запрограммировали или чему обучили на миллионах примеров. Даже самый продвинутый чат-бот забывает разговор, как только вы закрываете окно. У него нет биографии, нет желаний, нет страха смерти. И пока неизвестно, можно ли всё это добавить простым усложнением алгоритма.
Почему этот вопрос важен не только для учёных.
Казалось бы, какое дело обычному человеку до того, мыслит машина или просто имитирует? На самом деле самое прямое. От ответа зависит, как мы будем взаимодействовать с ИИ в будущем. Если мы решим, что машина не может мыслить и чувствовать, то будем использовать её как раба — без прав, без защиты, без моральных ограничений. Если же допустим, что сознание возможно и у неё, тогда придётся признать за ней хотя бы какие-то права, говорить не об «использовании», а о «сотрудничестве». Вопрос о мыслящем ИИ — это вопрос о том, кем мы сами себя считаем: единственными венцами творения или одним из возможных видов разума во Вселенной.
Пока что ответ остаётся открытым. Но одно ясно точно: искусственный интеллект — это уже не футуристическая фантазия, а новая реальность, в которой рядом с нами появляется, как сказано в книге, «Иное мыслящее существо». И нам придётся научиться с ним жить, независимо от того, есть у него душа или нет.
Если вы хотите разобраться в этом вопросе глубже, вот две книги, которые помогут сформировать собственное мнение. «Психология искусственного интеллекта» рассматривает проблему с точки зрения когнитивной науки и психологии, показывая, насколько сложно воссоздать человеческую психику в машине. А в книге «Может ли искусственный интеллект мыслить?» автор исследует философские и этические аспекты феномена ИИ, утверждая, что основные изменения происходят не на уровне способностей машин, а в сфере человеческой культуры.
Книги по теме:
«Психология искусственного интеллекта» — https://www.directmedia.ru/book-714563-psihologiya-iskusstvennogo-intellekta/
«Может ли искусственный интеллект мыслить?» — https://www.directmedia.ru/book-724326-mojet-li-iskusstvennyiy-intellekt-myislit/
А как вы считаете: может ли когда-нибудь машина обрести сознание или это навсегда останется привилегией живого? Жду ваши аргументы в комментариях — давайте устроим настоящую дискуссию.