Найти в Дзене

Жи-ши пиши от души, или почему важно писать промпт грамматически верно

Жи-ши пиши от души, или почему важно писать промпт грамматически верно. Старина Джейсон, безусловно, как фанат русских поговорок и пословиц, безусловно, прав. Я постоянно говорю об этом младшему антинаучному сотруднику и призываю его писать правильно. И это уже не просто моя гипотеза, что запросы (промпты) нужно писать грамматически точно, а уже доказанное экспертами. Вот пруф: публикация Сергея Нотевского, AI Platform Lead в Битрикс24 [1]. Выводы Сергея в первую очередь для инженеров: Считайте эффективный контекст, а не маркетинговый. Тестируйте модель на ваших данных с разной длиной. Используйте Context Caching для статики — это лучшая практика для снижения стоимости и задержки ответов. Не удаляйте пунктуацию и разметку ради экономии токенов. Внедряйте «Умные ножницы»: вырезайте из контекста отработанные вызовы инструментов и старые промежуточные рассуждения, чтобы избежать context rot. Для юристов можно интерпретировать так: Структурируйте свой запрос. Не повторяйтесь. Пишите п

Жи-ши пиши от души, или почему важно писать промпт грамматически верно.

Старина Джейсон, безусловно, как фанат русских поговорок и пословиц, безусловно, прав. Я постоянно говорю об этом младшему антинаучному сотруднику и призываю его писать правильно.

И это уже не просто моя гипотеза, что запросы (промпты) нужно писать грамматически точно, а уже доказанное экспертами. Вот пруф: публикация Сергея Нотевского, AI Platform Lead в Битрикс24 [1].

Выводы Сергея в первую очередь для инженеров:

Считайте эффективный контекст, а не маркетинговый.

Тестируйте модель на ваших данных с разной длиной.

Используйте Context Caching для статики — это лучшая практика для снижения стоимости и задержки ответов.

Не удаляйте пунктуацию и разметку ради экономии токенов.

Внедряйте «Умные ножницы»: вырезайте из контекста отработанные вызовы инструментов и старые промежуточные рассуждения, чтобы избежать context rot.

Для юристов можно интерпретировать так:

Структурируйте свой запрос.

Не повторяйтесь.

Пишите правильно и соблюдайте правила пунктуации.

#адвокатский_софт #адвокатский_запрос (ироничное обозначение промптинга)

Примечания и ссылки.

[1] https://habr.com/ru/companies/bitrix/articles/976528/