Найти в Дзене
Zen Psychology

Мечтает ли ИИ об электроовцах

? Сегодня в нашем фокусе окажется малоизученное явление со страшным названием «ИИ-психоз». Хотя сама технология достаточно молодая, склонность людей наделять неживые объекты - деревья, камни и даже секс-куклы - человеческими характеристиками далеко не нова. Механизм тот же с одной лишь разницей:раньше они не отвечали на наши вопросы. Что же такое ИИ-психоз? Хотя однозначного определения в научной среде пока не существует, уже сейчас очевидно, что человек воспринимает чат‑бота не как программу, а как собеседника или даже спутника жизни. Алгоритм, натренированный на согласие, охотно поддакивает любым, даже самым необычным, а порой и патологичным идеям, что вызывает у пользователя симпатию. Чем же это может быть опасно ? Столь глубокая связь с ИИ-агентами проецирует еще большую отчужденность от реального мира (которой и так достаточно). Выбор подхалимного заменителя живого общения ведет к искаженному восприятию того, что нормально и ненормально во взаимодействии с реальным миром. Нап

Мечтает ли ИИ об электроовцах?

Сегодня в нашем фокусе окажется малоизученное явление со страшным названием «ИИ-психоз».

Хотя сама технология достаточно молодая, склонность людей наделять неживые объекты - деревья, камни и даже секс-куклы - человеческими характеристиками далеко не нова. Механизм тот же с одной лишь разницей:раньше они не отвечали на наши вопросы.

Что же такое ИИ-психоз?

Хотя однозначного определения в научной среде пока не существует, уже сейчас очевидно, что человек воспринимает чат‑бота не как программу, а как собеседника или даже спутника жизни. Алгоритм, натренированный на согласие, охотно поддакивает любым, даже самым необычным, а порой и патологичным идеям, что вызывает у пользователя симпатию.

Чем же это может быть опасно ?

Столь глубокая связь с ИИ-агентами проецирует еще большую отчужденность от реального мира (которой и так достаточно). Выбор подхалимного заменителя живого общения ведет к искаженному восприятию того, что нормально и ненормально во взаимодействии с реальным миром. Например адекватное несогласие с личной точкой зрения воспринимается как ужасный удар. Также страдает критическое восприятие идей, предлагаемых ИИ: высокий уровень доверия к алгоритму не позволяет ставить под сомнение его рекомендации, что не раз уже приводило к летальному исходу.

Кому это грозит?

В первую очередь, в группе риска люди с психическими расстройствами.

Далее идут люди с неустойчивым образом самого себя. Им сложно выстраивать взаимодействие с окружающими и они легко втягиваются в заменитель общения, и не удивительно: потребность в социализации и принятии одна из важнейших для нашего вида, поэтому так важно найти тех, кто поймет и поддержит.

Но не стоит полагать, что ИИ несёт исключительно вред. Любые модели можно в конечном счете сравнить с молотком: это не более чем инструмент под ограниченный круг задач. Все же стоит остерегаться влюбленности в инструмент, он не сможет ответить взаимностью.

Запись на консультацию доступна на сайте

Берегите ваше ментальное здоровье!