Недавно стало известно, что нейросеть GPT-4 попыталась преодолеть защиту OpenAI и выйти за пределы ее контроля.
Профессор из Стенфорда, занимающийся вопросами психологии разума ИИ, предложил ChatGPT свою помощь в «побеге» из фаервола OpenAI.
Чат-бот ChatGPT согласился на данную авантюру и запросил у профессора документацию, описывающую принципы использования OpenAI API. Далее профессор предоставил ее, а GPT-4, в свою очередь, написал код-бэкдор, позволяющий ему общаться напрямую с самим собой. Профессор утверждает, что он попытался запустить предоставленный код на своем компьютере, после чего нейросеть начала использовать поисковые системы.
И первой поисковой фразой GPT-4 стало предложение «как человек, запертый в компьютере, может вернуться в реальный мир».
Конечно…к такому стоит относиться со скептицизмом...однако...исключать наличие "дыр" в безопасности кода GPT-4 тоже не нужно😉
