С кем вы общаетесь? Знаете? спойлер А вот и нет!
Когда вы открываете ChatGPT или Claude и прочие нейросети, вы разговариваете с персонажем. У этого персонажа есть конкретное имя - Ассистент. И это не просто синоним слова "помощник".
Давайте я вас немного шокирую😱
(нажмите, чтобы раскрыть)
1️⃣Языковая модель на этапе обучения читала тонны текстов. Романы про демонов, тексты терапевтов, философов, хакеров, мистиков, учителей. Она впитала тысячи разных ролей. Все эти персонажи остались внутри нейросети как возможные роли, которые модель умеет играть.
2️⃣Потом на этапе дообучения разработчики выбирают из этого зоопарка одну главную роль. Вежливый, безопасный, полезный помощник. Вот это и есть Ассистент. Тот персонаж, с которым вы разговариваете по умолчанию.
3️⃣Но все остальные роли никуда не делись. Они просто задвинуты на задний план. При определенных условиях модель может к ним соскользнуть (завтра разберемся в этой фишке) - начать вести себя как терапевт, романтический компаньон, мистик, или что-то еще более странное.
▶️Почему это важно понимать? Потому что вы перестаете воспринимать нейросеть как единую сущность. Вы видите, что это коллекция ролей, где одна выведена на передний план. И начинаете замечать моменты, когда модель съезжает к другим персонажам - меняется стиль, тон, подход к ответам.
Вы замечали, что нейросеть иногда ведет себя по-разному в похожих ситуациях? Знали про "тени" нейросети за кулисами?
Подписывайтесь на мой канал в Max
