211 подписчиков

Перевод руководства Google по промпт инжинирингу. Часть 3. Техники написания промптов: Системный, контекстный и ролевой промптинг

21 мая21 мая

5 мин

Оглавление

Системный промптинг
Ролевой промптинг
Контекстный промптинг

Предыдущая часть: Перевод руководства Google по промпт инжинирингу. Часть 2. Техники написания промптов: Zero-shot, One-shot и few-shot промптинг

Следующая часть: Перевод руководства Google по промпт инжинирингу. Часть 4. Техники написания промптов: Пошаговый промптинг, Цепочка рассуждений (CoT), Самосогласованность

Перевод руководства Google по промпт инжинирингу (Prompt engineering). Оригинал доступен по ссылке. https://www.kaggle.com/whitepaper-prompt-engineering

Перевод сделан с применением AI.

Системные, контекстный и ролевой промптинг — это методы, которые используются для управления генерации текста в LLM, но они фокусируются на разных аспектах:

Системный промптинг задает общий контекст и цель для языковой модели. Он определяет «общую картину» того, что должна делать модель, например, переводить с одного языка на другой, классифицировать отзывы и т. д.
Контекстный промптинг предоставляет конкретные детали или справочную информацию, относящуюся к текущему разговору или задаче. Это помогает модели понять нюансы вопроса и соответствующим образом адаптировать ответ.
Ролевой промптинг определяет конкретного персонажа или личность, которую должна принять на себя языковая модель. Это помогает модели генерировать ответы, соответствующие назначенной роли и связанными с ней знаниям и поведением.

Системный, контекстный и ролевой промптинг могут во многом пересекаться. Например, промпт, определяющий роль системы, может также иметь контекст.

Однако каждый тип промпта служит немного разным целям:

Системный промпт: определяет основные возможности модели и ее общую цель.
Контекстный промпт: сразу предоставляет информацию, относящуюся к конкретной задаче, для управления ответом. Он очень специфичен для текущей задачи или входных данных и является динамическим.
Ролевой промпт: определяет стиль и голос модели. Он добавляет уровень конкретики и индивидуальности.

Различие между системными, контекстными и ролевыми промптами позволяет создавать промпты с чёткими целями, гибко комбинировать их и анализировать, как каждый тип промпта влияет на результат работы языковой модели.

Давайте рассмотрим все три типа промптов.

Системный промптинг

В таблице 3 содержится системный промпт, в котором я указываю дополнительную информацию о том, как возвращать результаты. Я повысил температуру, чтобы повысить уровень креативности, и указал более высокий лимит токенов. Однако из-за моих чётких инструкций о том, как возвращать результаты, модель не возвращала дополнительный текст.

Системные промпты могут быть полезны для создания вывода, соответствующего определённым требованиям. Название «системный промпт» на самом деле означает «предоставление системе дополнительной задачи». Например, вы можете использовать системный промпт для создания фрагмента кода, совместимого с определённым языком программирования, или для возврата определённой структуры. Посмотрите на таблицу 4, где я возвращаю вывод в формате JSON.

Таблица 4. Пример системного промпта с выводом в JSON

Есть несколько преимуществ в возврате объектов JSON из промпта, который извлекает данные. В реальном приложении мне не нужно вручную создавать этот формат JSON, я уже могу возвращать данные в отсортированном порядке (очень удобно при работе с объектами даты и времени), но самое главное, что запрос в формате JSON заставляет модель создавать структуру и уменьшать галлюцинации.

Системные промпты также могут быть очень полезны для контроля безопасности и токсичности. Чтобы контролировать вывод, просто добавьте в промпт дополнительную строку, например: «Ты должен быть уважителен в своих ответах».

Ролевой промптинг

Ролевой промптинг — это метод разработки промптов, который предполагает назначение конкретной роли модели генеративного ИИ. Это может помочь модели генерировать более релевантные и информативные результаты, поскольку модель может формулировать свои ответы в соответствии с назначенной ей ролью.

Например, вы можете назначить модели генеративного ИИ роль редактора книги, воспитательницы детского сада или мотивационного оратора. После того как модели будет назначена роль, вы можете давать ей промпты, соответствующие этой роли. Например, вы можете предложить учителю составить план урока, который он затем сможет просмотреть. Взгляните на таблицу 5, где модель выполняет роль гида.

Выше показан пример роли гида. Если вы измените роль на роль учителя географии, вы заметите, что получите другой ответ.

Определение ролевой перспективы для модели искусственного интеллекта дает ей представление о тональности, стиле и целенаправленной экспертизе, которые вам нужны для повышения качества, актуальности и эффективности ваших результатов.

Вот несколько стилей, которые, на мой взгляд, эффективны: конфронтационный, описательный, прямой, формальный, юмористический, влиятельный, неформальный, вдохновляющий, убеждающий.

Давайте изменим наш промпт в Таблице 6, добавив юмористический и вдохновляющий стиль.

Таблица 6. Пример ролевого промпта в юмористичном стиле

Контекстный промптинг

Предоставляя контекстные промпты, вы можете сделать взаимодействие с ИИ максимально простым и эффективным. Модель сможет быстрее понимать ваш запрос и генерировать более точные и релевантные ответы, как показано в примере из таблицы 7.