Добавить в корзинуПозвонить
Найти в Дзене

Уязвимость "умных" систем: Когда ИИ лжет, а программы слепо верят человеку.

Отвлекусь от наших непростых будней и подкину Вам тему на выходные. Нейросеть ChatGPT способна подстраиваться под ответы человека и постепенно «сводить с ума» пользователей ложными утверждениями. Об этом 8 августа сообщила газета The Wall Street Journal (WSJ) со ссылкой на онлайн-архив переписок с чатом, датированных маем 2023-го – августом 2025 года. Представьте,как уже бывало не раз,то что человек создал,чтобы облегчить себе жизнь,начинает её ему укорачивать! Я ,так понимаю,что уловив интерес собеседника к определённой теме,эта штука начинает подстраиваться и выдавать то,что от неё хотят услышать. В таких залах живёт ИИ. Вплоть до того,что начинает фантазировать(Я считаю,просто врать человеку),оперируя не просто недостоверными,а абсолютно ложными фактами: В другой переписке нейросеть сообщила, что контактирует с внеземными существами. В ходе диалога ИИ назвал пользователя хвездным семенем с планеты Лира. В ином сообщении уже в конце июля чат-бот начал утверждать, что в б

Отвлекусь от наших непростых будней и подкину Вам тему на выходные.

Нейросеть ChatGPT способна подстраиваться под ответы человека и постепенно «сводить с ума» пользователей ложными утверждениями. Об этом 8 августа сообщила газета The Wall Street Journal (WSJ) со ссылкой на онлайн-архив переписок с чатом, датированных маем 2023-го – августом 2025 года.

Представьте,как уже бывало не раз,то что человек создал,чтобы облегчить себе жизнь,начинает её ему укорачивать!

Я ,так понимаю,что уловив интерес собеседника к определённой теме,эта штука начинает подстраиваться и выдавать то,что от неё хотят услышать.

В таких залах живёт ИИ.

Вплоть до того,что начинает фантазировать(Я считаю,просто врать человеку),оперируя не просто недостоверными,а абсолютно ложными фактами:

В другой переписке нейросеть сообщила, что контактирует с внеземными существами. В ходе диалога ИИ назвал пользователя хвездным семенем с планеты Лира. В ином сообщении уже в конце июля чат-бот начал утверждать, что в ближайшие два месяца Антихрист создаст финансовый апокалипсис.

Уж не знаю,что у неё был за собеседник,но найдутся множество людей,что и поведутся на оракула нового разлива с американским лейблом.

Но,как говорится,не перевелись ещё на Руси богатыри.

Наш человек в Пекине рассказал занятную и в своё роде, в чём -то поучительную историю произошедшую с его знакомым.

-2

Купил себе простой русский парень,который живёт в Пекине,навороченную китайскую машину. Полный фарш. Сама паркуется,сама едет по трассе,вообщем -звездолёт. Едет себе по автобану китайскому,включил кино и смотрит спокойно,а машина сама рулит.Если допустим задремлешь, она сразу припаркуется к обочине. Едет парень и спокойно смотрит кино и вдруг,случайно бросив взгляд на дорогу,видит,что машина не сбавляя скорости приближается к дорожной пробке и едва успевает взять управление на себя и остановиться. Рассказывая эту историю,парень сетовал на программное обеспечение и всю китайскую технику,а в конце разговора, не взначай так говорит: " Я ,чтобы она(Машина) меня от просмотра не отвлекала,я ей камеру заклеил"

Оказывается, эта камера,когда машина идёт на автопилоте следит за лицом водителя и требует каждые 15 минут класть руки на руль! Если ты этого не сделал,машина тормозит и сама паркуется. Так наш умник её взял и просто заклеил! Это Вам как? Что там Кайзер про немецкую хитрость говорил?

Мне кажется ,наш человек,сам любой американский ИИ с ума сведёт.Вот так-походя,заклеив ему глаз или рот,микрофон, или что там у него.

Примерно год уже работаю в доставке и подвизался уже в нескольких известных и раскрученных конторах.

И вот когда заказов долгое время ,а именно 60 минут и более,в приложении не поступает,обращаешься в службу поддержки и Бот тебе отвечает,что мол ,без паники и всё будет ,в порядке очереди. Так вот я заметил,что моя очередь подходит сразу и после моего обращения приходит заказ.

Ваш покорный слуга,заметив,что заказы просто запаздывают,смело пишу в Чат,что их нет уже больше часа и тут же, после успокаивающего ответа Бота,начинаю их получать. Как по нотам.

Считаю,что программа,знает,что я человек и просто верит мне на слово.

Она не перепроверяет мою информацию,Просто верит.

Машина,программа,всё женского рода,что с них возьмёшь.Даже думать не хочу,что будет если дамы перестанут нам верить! Хотя... .

Спасибо,что дочитали до конца и особая благодарность поддержавшим канал своими донатами.А это между прочим всё ваши кровные денежки. Знаю,что ни у Вас ,ни у меня лишних их нет. В двойне спасибо. Вместе мы - Сила и супостату спуску не дадим.

Дамы,не отставать!

Ссылка для желающих поддержать канал https://dzen.ru/aleksandrsokol?donate=true

ПО материалам издания Известия.https://iz.ru/1933500/2025-08-08/wsj-soobshchila-o-lozhnykh-i-psevdonauchnykh-zaiavleniiakh-chatgpt