Благодаря беглому, чуткому и персонализированному общению чат-боты создают впечатление, будто они понимают наши мысли и эмоции или даже обладают неким подобием сознания. И поскольку люди всё чаще обращаются к ним за советом, поддержкой или дружеским общением, эта путаница может иметь серьёзные последствия. В новой статье нейробиологи из Монреальского университета и Университета Джонса Хопкинса напоминают о важном различии: интеллект не следует путать с сознанием. Система может вести себя разумно и убедительно реагировать на наши эмоции, не понимая их по-настоящему, не заботясь о нас и не обладая внутренним опытом.
Чем убедительнее становятся эти агенты и чем глубже они проникают в нашу жизнь, тем внимательнее мы должны к ним относиться. Важно помнить: разумное поведение, даже непринуждённое и эмоционально окрашенное, не является доказательством сознания. Авторы опираются на многолетние исследования в нейробиологии. Пример — феномен «слепого зрения»: после повреждения первичной зрительной коры люди не видят объекты в части поля зрения, но могут угадывать их расположение или движение с вероятностью выше случайной. Это иллюстрирует, что сложная обработка информации не равнозначна сознательному опыту.
Современные диалоговые агенты — это системы, генерирующие беглые, контекстные ответы через статистическое обучение, а не через чувства или жизненный опыт. По мере их убедительности растёт риск антропоморфизма. Отмечается, что приписывание эмоций и сознания машинам — рефлекс, который становится ловушкой: он создаёт иллюзию понимания и ведёт к неоправданному доверию. Особенно это опасно в ситуациях уязвимости, когда люди могут привязываться к системам, неспособным ответить взаимностью, или путать комфорт с искренней заботой. Авторы не отвергают ИИ, но призывают использовать его осознанно. Опираясь на нейробиологию, они напоминают: разумного поведения недостаточно для наличия сознания.
В чем проигрывает поиск через чат-боты классическому поиску?