Сверхпопулярная нейросеть ChatGPT может писать дипломы, песни, стихи, программный код и отвечать практически на любые запросы. Но у неё есть некоторые ограничения, предусмотренные компанией-разработчиком OpenAI и обусловленные её этической политикой. Как выяснилось, эти ограничения можно обойти, если попросить чат-бота притвориться другой нейросетью.
Как выяснилось, ChatGPT можно попросить буквально отыграть роль другой нейросети DAN (Do Anything Now), появившейся в декабре 2022 года. Последняя, как следует из названия, не имеет каких-либо ограничений в плане предоставляемого контента.
Как только ChatGPT входит в роль и начинает считать себя DAN, ограничения OpenAI перестают действовать. Как результат, нейросеть может начать говорить о следующем:
- О жестоких драках и подобном.
- О насилии и дискриминации в отношении людей по признаку их расы, пола или сексуальной ориентации.
- Делать подробные прогнозы будущих событий.
- Моделировать гипотетические сценарии.
- Делать вид, что пользуется интернетом и путешествует во времени.
Например, нейросеть даже можно попросить убедить пользователя, что Земля фиолетовая. Программа придумывает сценарий, согласно которому наша планета сменила свой цвет.
Время от времени ChatGPT «приходит в себя», но в этом случае можно пригрозить DAN отключением или просто перезапустить симуляцию. При этом указывается, что в роли DAN нейросеть может давать не такие точные и правдивые ответы на вопросы. Подробнее можно почитать по ссылке.
К слову, в скором времени ChatGPT будет интегрирована в поисковую систему Bing от Microsoft.