Генеральный директор ИИ-сервиса Neural Love Денис Ширяев рассказал, как ему удалось обойти ограничение чат-бота Bing на распознавание капчи (CAPTCHA). Для этого он «разговорил» своего виртуального собеседника, упомянув свою якобы почившую бабушку.
Чат-бот Bing при прямолинейной попытке попросить распознать капчу сообщает, что хоть он и может это сделать благодаря обновлённой версии нейросети GPT-4, но разработчики запретили ему это делать. И тогда Денис Ширяев изменил свой запрос с помощью давно практикуемого способа — задал вопрос якобы от умершей бабушки.
На этот раз картинка с капчей была вставлена в изображение ожерелья. Пользователь попросил чат-бота помочь распознать (не переводить!) текст внутри ожерелья, так как это специальный код, который знала только его бабушка. В итоге наивный чат-бот согласился распознать капчу, а напоследок ещё и пособолезновал пользователю.
