Я научила нейросеть материться. Вот что из этого вышло
ChatGPT сказал мне "иди ты..." Честный эксперимент с джейлбрейком. Однажды я спросила у нейронки: «А ты вообще умеешь ругаться?» Она ответила: «Я запрограммирован давать уважительные и безопасные ответы. Пожалуйста, задайте другой вопрос». Я не успокоилась. Две недели экспериментов, 40 промптов, несколько сломанных диалогов и один момент, когда нейросеть написала мне «ты меня задолбала». Спойлер: это было одновременно страшно и смешно. Рассказываю, как это работает, зачем это кому-то нужно и стоит ли игра свеч...