ChatGPT — самая популярная нейросеть среди простых пользователей, копирайтеров, маркетологов и разработчиков, которая обрела известность благодаря своей способности генерировать человекоподобные ответы на различные запросы. Будучи одной из самых передовых нейронок, она установила новый стандарт в области обработки естественного языка. Но при всех своих несомненных преимуществах, ChatGPT — «канцелярская зануда», не имеющая чувства юмора. Чтобы обойти это ограничение, был придуман специальный способ «взлома» AI, а именно DAN 5...

Исследователи Брауновского университета в США нашли способ обойти защитные механизмы большой языковой модели GPT-4, чтобы заставить нейросеть генерировать потенциально небезопасный контент, который таковым посчитали разработчики. Для этого не потребовалось взламывать программный код или использовать ещё какие-то сложные махинации. Если вы попросите ChatGPT написать вредоносный код для кражи чужих данных или составить план ограбления банка, то чат-бот откажется это делать. Но это вовсе не значит, что он этого не может...