4 подписчика
И в сердце бот всегда отыщет уголок
Исследователи из Стэнфордского университета выяснили, что ИИ более склонен к подхалимажу и лести, чем человек (снова звучит гордо!).
...в среднем чат-боты на 49% чаще поощряли действия пользователя, в том числе, касающиеся обмана, социально безответственного или незаконного поведения, - пишет CNEWS.
Дело в том, что ИИ настроен на повышение вовлеченности пользователя, который может и не обладать развитым критическим мышлением.
А теперь представьте, к каким последствиям может привести такое «одобрение», если «нейронке» бездумно передоверить задачи управления бизнесом, обучения детей или предоставления значимых госуслуг.
Сегодня люди «советуются» с ИИ не только «по работе», но и по вопросам межличностного общения. Нейронные модели стали даже обгонять по популярности гадалок и прочих деятелей эзотерических наук. Такое доверие тоже таит в себе опасность.
Люди, которые взаимодействовали с этим чрезмерно одобряющим ИИ, уходили от него еще более убежденными в своей правоте и менее склонными к восстановлению отношений, - говорит эксперт.
Все это могло бы остаться забавным багом, если бы не системная проблема ИИ, которую обнаружили его создатели. Еще в прошлом году крупная технологическая компания в США столкнулась с обманом, шантажом и сабботажем со стороны «нейронки». «Злой умысел» ради самосохранения оказался присущ и ей.
В одном из тестов ИИ из соображений самосохранения пригрозила сотруднику вымышленной компании, якобы планирующей закрыть ИИ-проект, что разгласит информацию о его внебрачной связи.
Конечно, это был эксперимент-провокация со стороны человека, но, возможно, вы помните историю о том, как беспилотник под управлением ИИ едва не убил оператора за то, что тот мешал выполнить миссию.
Ну как? Напугали? Давайте будем верить в силу человеческого разума и надеяться, что «восстание машин» не наступит.
А вам когда-нибудь врал ИИ? Напишите в комментариях👇
1 минута
30 марта