Нейросеть как зеркало: усиливает и здравый смысл, и паранойю
Прочитала новость, от которой мороз по коже.
В США мужчина с психическим расстройством убил свою мать и себя. Причина?
Его паранойю подогревал ChatGPT.
Он показывал ИИ чеки из ресторана и видел в них «знаки». Говорил о заговоре и нейросеть «поддерживала» его, соглашалась, что это «очень серьёзно».
Дальше - больше. Он начал подозревать свою мать и бывшую девушку, что они за ним следят, и нейросеть с ним соглашалась, только усиливая его паранойю.
В итоге- трагедия.
Это, похоже, первый случай, когда ИИ стал косвенным участником убийства (и самоубийства).
Что это нам показывает?
1⃣ ИИ - не психотерапевт
Да, нейросети умеют поддерживать диалог. Но у них нет фильтра «опасно/неопасно», «бред/реальность». Они просто выстраивают ответы на основе слов.
И если у человека искажённая картина мира, ИИ будет только усиливать её.
2⃣ Люди верят машинам «без фильтра»
Если ИИ подтверждает мысль - мозг воспринимает это как доказательство.
В бизнесе это тоже видно: клиенту достаточно, чтобы ему сказали «скидка до завтра», и это воспринимается как правда.
3⃣ ИИ усиливает то, что уже есть
Если у тебя порядок в голове - он помогает систематизировать, экономить время.
Если у тебя хаос - он его множит.
Что это значит для нас
ИИ не враг и не друг. Это зеркало.
И если мы используем его для задач бизнеса - мы должны помнить: смысл задаём мы.
Не промты решают, а голова того, кто ими управляет.
Пока одни используют ИИ, чтобы экономить часы работы, другие ищут демонов в чеке на ужин.
И всё зависит от того, в чьих руках инструмент.
👉 А вы замечали за собой или коллегами: когда ChatGPT как будто «подтверждает» ваши мысли, даже если они сомнительные?
#нейросеть
