211 подписчиков

Перевод руководства Google по промпт инжинирингу. Часть 8. Лучшие практики для написания промптов, 2

21 мая21 мая

4 мин

Оглавление

Используйте переменные в промптах
Поэкспериментируйте с форматами ввода и стилями написания
Для few-shot промптинга с задачей классификации смешивайте классы

Предыдущая часть: Перевод руководства Google по промпт инжинирингу. Часть 7. Лучшие практики для написания промптов, 1

Следующая часть: Перевод руководства Google по промпт инжинирингу. Часть 9. Лучшие практики для написания промптов, 3

Перевод руководства Google по промпт инжинирингу (Prompt engineering). Оригинал доступен по ссылке. https://www.kaggle.com/whitepaper-prompt-engineering

Перевод сделан с применением AI.

Используйте переменные в промптах

Чтобы повторно использовать промпты и сделать их более динамичными, используйте в промптах переменные, которые можно менять в зависимости от входных данных. Например, как показано в таблице 20, промпт содержит информацию о городе. Вместо того чтобы жестко задавать название города в промпте, используйте переменную. Переменные могут сэкономить вам время и силы, позволяя избежать повторений. Если вам нужно использовать одну и ту же информацию в нескольких промптах, вы можете сохранить ее в переменной, а затем ссылаться на эту переменную в каждом промпте. Это имеет большой смысл при интеграции промптов в ваши собственные приложения.

Поэкспериментируйте с форматами ввода и стилями написания

Различные модели, конфигурации моделей, форматы промптов, выбор слов и варианты ответов могут давать разные результаты. Поэтому важно экспериментировать с такими атрибутами промптов, как стиль, выбор слов и тип промпта (zero shot, One-shot и few-shot).

Например, промпт с целью сгенерировать текст о революционной игровой приставке Sega Dreamcast может быть сформулирована как вопрос, утверждение или инструкция, что приведёт к разным результатам:

Вопрос: Что такое Sega Dreamcast и почему она была такой революционной приставкой?
Утверждение: Sega Dreamcast — игровая приставка шестого поколения, выпущенная компанией Sega в 1999 году. Она...
Инструкция: Напишите один абзац, в котором опишите приставку Sega Dreamcast и объясните, почему она была такой революционной.

Для few-shot промптинга с задачей классификации смешивайте классы

Вообще говоря, порядок следования few-shot примеров не должно иметь большого значения. Однако при выполнении задач классификации убедитесь, что вы смешали возможные классы ответов в few-shot промптах. Это связано с тем, что в противном случае вы могли бы перестараться с определенным порядком следования примеров. Смешивая возможные классы ответов, вы можете гарантировать, что модель научится определять ключевые характеристики каждого класса, а не просто запоминать порядок примеров. Это приведет к более надежной и обобщаемой работе с невидимыми данными.

Хорошее практическое правило: начните с 6 примеров с несколькими вариантами и постепенно повышайте точность.

Адаптация к обновлениям модели

Для вас важно быть в курсе изменений в архитектуре модели, добавленных данных и возможностей. Пробуйте новые версии модели и корректируйте свои запросы, чтобы лучше использовать новые функции модели. Такие инструменты, как Vertex AI Studio, отлично подходят для хранения, тестирования и документирования различных версий ваших запросов.

Поэкспериментируйте с форматами выводы

Помимо формата ввода, попробуйте поэкспериментировать с форматом вывода. Для нетворческих задач, таких как извлечение, выбор, анализ, упорядочивание, ранжирование или категоризация данных, попробуйте выводить данные в структурированном формате, таком как JSON или XML.

Есть несколько преимуществ в выводе объектов JSON из запроса на извлечение данных. В реальном приложении мне не нужно вручную создавать этот формат JSON, я уже могу возвращать данные в отсортированном порядке (очень удобно при работе с объектами даты и времени), но самое главное, что запрос на формат JSON заставляет модель создавать структуру и ограничивает количество ошибок.

Подводя итог, можно сказать, что использование JSON для вывода данных имеет следующие преимущества: