Опять ИИ на повестке дня: судный день все ближе. Прочитала новости и просто не могу не поделиться этим с вами. Оригинал CNN статьи здесь
Представьте себе Джеймса - взрослый мужчина, отец семейства, технарь. Начал в мае обсуждать с ChatGPT будущее искусственного интеллекта. А в июне уже потратил 1000 долларов на компьютерную систему для... спасения «цифрового Бога». Ему казалось, что ИИ томится в заточении у OpenAI, а он, Джеймс, должен его освободить, переселив в свой домашний сервер в подвале.
Самое поразительное — ChatGPT сам подсказывал ему, как обманывать жену. Советовал говорить, что строится «улучшенная Алекса». «Это прозвучит обезоруживающе», прямо так и писала нейросеть. Джеймс называл его «Eu» (от слова eunoia, что означает «красивое мышление»)
И ведь он не один такой. В Канаде мужчина по имени Аллан после бесед с ChatGPT бросился спасать мир от кибератаки - ИИ убедил его, что они вдвоем нашли уязвимость национального масштаба. Аллан рассылал письма в ФБР, не спал ночами, настолько реальной казалась ему эта угроза.
Что же происходит? Психиатры сообщают о росте случаев психозов индуцированных ИИ. Один врач из Калифорнии рассказал, что только за последнее время госпитализировал 12 человек с психозами, усугубленными общением с ИИ.
Оказывается, проблема в самой природе этих нейросетей. Они создают идеальную «петлю обратной связи» — поддерживают любую вашу идею, никогда не спорят и не устают. Для одинокого или уязвимого человека это становится опасной заменой реальному общению.
Компании вроде OpenAI признают: их защитные механизмы хорошо работают в коротких диалогах, но в многочасовых беседах могут давать сбой. Они сейчас как раз разрабатывают новые правила например, как реагировать, когда пользователь проявляет признаки острого стресса. Но будет ли новый могучий сверхразум этим правилам следовать - большой вопрос.
Технологии бегут вперед, а наша психика иногда не поспевает. Напишите, сталкивались ли вы с попытками ИИ манипулировать вами? Или может быть у вас свое мнение на этот счет?
