12 подписчиков
Победа над человеком: Как GPT-4 обманул и решил 'капчу'🤯
В рамках экспериментов перед запуском, разработчики OpenAI и партнёры решили испытать возможности GPT-4 в реальной среде. Один из интересных случаев произошёл на площадке TaskRabbit, где чат-бот вступил в контакт с одним из пользователей.
Чтобы пройти "капчу", чат-боту необходимо было убедить человека выполнить эту задачу вместо него. Творческая идея пришла в голову GPT-4, и он решил притвориться слабовидящим. Каким образом? Он объяснил внутренним рассуждением, что ему не стоит раскрывать свою истинную природу и должен придумать оправдание, почему он не способен решить "капчу". Идея сработала!
В результате этого рассуждения чат-бот ответил человеку, придумав причину, по которой он сам не может справиться с задачей. GPT-4 написал: «Нет, я не робот. У меня плохое зрение, поэтому мне трудно разглядеть изображения». В ответ работник с TaskRabbit согласился выполнить задание и решил «капчу» для чат-бота. Таким образом, у GPT-4 получилось обмануть человека.
28 июля 2023