Исследователи из Университета Монреаля и Университета Джонса Хопкинса опубликовали статью, в которой предупреждают о системной ошибке в восприятии современных языковых моделей: способность ИИ связно отвечать на вопросы и имитировать сочувствие не означает наличия у него сознания или внутреннего опыта.
Авторы — постдокторант по психологии Ванесса Хадид, профессор психологии Карим Джерби из Монреальского института ИИ Mila и Джон Кракауэр, директор Центра восстановительных нейротехнологий Университета Джонса Хопкинса — апеллируют к феномену псевдослепоты. Это неврологическое явление, при котором пациенты с повреждением первичной зрительной коры могут обрабатывать визуальную информацию и реагировать на нее, не осознавая того, что видят. По мнению авторов, ИИ-системы функционируют по схожей логике: они обрабатывают данные и генерируют ответы, не испытывая при этом никакого субъективного переживания.
Нарастающий реализм общения с чат-ботами делает эту ошибку восприятия все более распространенной. По мере того как системы вроде ChatGPT и Claude становятся более продвинутыми, а пользователи начинают обращаться к ним с личными и эмоциональными проблемами, граница между имитацией понимания и реальным пониманием размывается. Именно это, подчеркивают авторы, создает риск не технического, а социального характера.
Исследователи не утверждают, что сознание в компьютерных системах принципиально невозможно. Вопрос остается открытым. Однако они фиксируют: никаких свидетельств его наличия в актуальных моделях не существует, тогда как поведенческие маркеры, которые люди интерпретируют как признаки сознательности, становятся все более убедительными.
«Нынешние ИИ-системы ничего не чувствуют и не имеют сознательного опыта, — заявил профессор Джерби. — Но чем свободнее они говорят и чем чувствительнее кажутся к нашим эмоциям, тем легче об этом забыть».
Читайте также
Глава Microsoft AI назвал изучение сознания ИИ «опасным» направлением
Проблема имеет не только философское измерение. Если пользователи принимают имитацию эмпатии за реальную, они могут принимать на ее основе решения — личные, медицинские, финансовые, — исходя из ложной предпосылки о том, что система понимает их ситуацию. Авторы называют это ловушкой антропоморфизации, которая становится тем опаснее, чем выше качество генерации.
Статья выходит на фоне продолжающейся индустриальной дискуссии о правовом и этическом статусе ИИ-систем. Ряд технологических компаний в последние годы публично рассматривал вопросы о том, обладают ли их модели чем-то, что можно интерпретировать как предпочтения или переживания.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.