Можем ли мы считать, что машина мыслит? Заменит ли ИИ психологов и психотерапевтов.

Попробуйте представить ситуацию. Закрытая комната, а в ней находится человек. Он не знает китайского языка и никогда не видел китайских иероглифов. Но у него есть подробная инструкция на родном языке, как формировать слова из этих символов. Когда в комнату поступают записки с китайскими иероглифами, он, следуя инструкции, составляет ответы, тоже используя китайские иероглифы.

Для внешнего наблюдателя, знающего китайский язык, эти ответы выглядят вполне осмысленными и понятным. Из за этого создается впечатление, будто бы внутри комнаты находится человек, свободно владеющий китайским языком.

Автор этого мысленного эксперимента, философ Джон Сёрл, использует его для демонстрации важного различия между синтаксисом и семантикой в ситуации искусственного интеллекта. Человек в комнате успешно манипулирует символами, следуя формальным правилам (синтаксис), но при этом не понимает смысла того, что делает (семантика).

Этот описывает стремительное развитие языковых моделей нейросетей. И можно сделать , что способность системы генерировать грамматически правильные и контекстуально уместные ответы не означает наличие у неё понимания или сознания.

Кстати, тоже самое и в психотерапии, есть разница между механическим выполнением правил (следованию протоколам) и истинным пониманием глубинных проблем человек.

Сам Сёрл не говорил о принципиальной невозможность создания искусственного сознания, который начинать понимать происходящее. Он лишь показал, что само по себе следование правилам обработки информации не создает понимания.

Что делает мышление мышлением?

Мы приписываем машинам человеческие качества, если те демонстрируют сложное поведение. И это естественный процесси, ведь наша психика склонна искать знакомые паттерны.

70 лет назад Тест Тьюринга был предложен как стандарт оценки искусственного интеллекта. Но в целом он измеряет лишь внешние проявления мышления. Это, как если бы мы судили о глубине моря по волнам на его поверхности. А для нас, как специалистов в области психологии, критически важно понимать разницу между поведением и внутренними процессами, то есть между формой и содержанием.

Причем тут ортогональность мышления?

Ортогональностью мышления — способность генерировать внешне связный текст при полном отсутствии понимания причинно-следственных связей. Существует различные заболевания центральной нервной системы, при которых человек может красиво поддерживать различные темы для разговора, например, говорить о любви и совести, при этом совершенно не понимая смысла этих слов. Такое бывает при начальных стадиях слабоумия/деменции, родственники таких больных долгое время не подозревают, что с их близкими происходят изменения, так как те могут формально поддерживать общение.

Именно поэтому ИИ , опять же на мой взгляд, в полной степени не может заменить специалистов, в том числе психологов/психотерапевтов. Потому что существует грань между имитацией и подлинным пониманием. Когда мы работаем с клиентами, мы опираемся на реальное осознание причинно-следственных связей в психике конкретного (хотелось бы в это верить), а не на статистические корреляции в базе данных. А способность оперировать сложными понятиями не равна их пониманию.

Получается, что вопрос о сознании искусственного интеллекта это не просто технологическая/вычислительная, но и глубоко философская проблема.

Теоретически нельзя исключать, что в будущем вдруг у какой-то нейросети случайно возникнет форма сознания….Но сейчас мне это сложно представить.

Автор: Диордиев Максим Борисович
Врач-психотерапевт, КПТ-терапевт Супервизор

Получить консультацию автора на сайте психологов b17.ru