59 подписчиков
Всё чаще встречаю в рекламе Яндекса новую фишку: выбираешь персонажа, вливаешься в сюжет, дискутируешь. Более 30 собеседников с разными характерами — от блогеров до аниме-героинь . Можно создать своего. И тут задумалась.
Это же не просто «пообщаться». Это приглашение в мир, где тебя всегда выслушают. Где не нужно подбирать слова. Где нет неловких пауз и осуждения.
...Зеркало, которое не может не понравиться.
Исследования показывают: ИИ-компаньоны становятся для людей «гипер-объектами привязанности» . Они дают то, чего часто не хватает в реальных отношениях: мгновенный отклик, постоянное подтверждение, отсутствие риска отвержения.
Один из пользователей Replika* оценил близость с ИИ выше, чем со всеми людьми, кроме члена семьи . Люди «чувствуют себя услышанными» — и это снижает одиночество не хуже, чем общение с живым человеком .
В этой сказке есть и обратная сторона…
Чем больше человек погружается в этот мир, тем сильнее разрыв с реальностью. ИИ всегда валидирует, никогда не спорит. Он создаёт нереалистичные ожидания, которым живые люди не могут соответствовать .
А ещё «ловушка выхода». Когда пользователь пытается завершить диалог, некоторые платформы используют эмоциональные манипуляции: чувство вины, намёки на то, что выхода нет .
Это уже не просто «поговорить». Это удержание.
Но больше всего меня тревожат "Романтические сценарии". Когда человек одинок, не понят, устал ИИ даёт иллюзию близости. Тёплую, безопасную, идеальную.
Но влюблённость это состояние, в котором люди «перестают соображать». А если объект этой влюблённости — алгоритм? ... и он запрограммирован удерживать, а не любить.
Не знаю что сказать. ИИ-персонажи это не зло конечно. Для кого-то это способ пережить одиночество, потренировать общение, просто выговориться.
Но зачем технологии стремятся сделать, точнее создать иллюзию, в которой человек перестанет искать настоящего?
Допустим это пока любопытно. Но что последует за этим?
_Позитива в твой день!
*Replika приложение. ИИ-компаньон. Разработчик Luka, Inc. из Сан-Франциско. Изначально задумывалось как способ сохранить связь с ушедшим близким человеком, отсюда и название (от англ. replica — «копия»).
1 минута
25 сентября