С вами по-прежнему Блондинка в ИТ с рубрикой «просто о сложном». И тема сегодняшней публикации – создание промпта. Промпт - это текстовая команда, которую вы даете модели ИИ, описывая задачу, что нужно сделать. Умение правильно формулировать запрос к нейросети, по сути, основополагающий фактор в вашей с ней работе. Я уже рассказывала в общей статье про ИИ основные принципы его функционирования, в том числе то, что он не думает, а высчитывает статистические закономерности, а также, если у него мало информации по теме, может искренне нафантазировать некорректную информацию по аналогии с образцами, ранее им проанализированными. По работе (ЦИТ "Открытый Регион", Уфа, Башкортостан) я одновременно использую 2 вида генеративных ИИ, текстовые и графические. Я очень хочу рассказать о графическом, но сначала все-таки о текстовом. Графический будет в отдельной статье (все иллюстрации к своим статьям я как раз генерирую с помощью ИИ).
Итак, во-первых, вам нужно быть очень конкретным в своем запросе.
Плохой запрос: «Расскажи про историю»? (ИИ не знает о какой истории идет речь, о создании мира или «однажды мы с друзьями…»)
Хороший запрос: «Расскажи об основных моментах правления Ивана Грозного в 3-5 пунктах».
Во-вторых, вы смело можете задавать ролевые параметры для контекста.
«Ты опытный слесарь с 10-ти летним стажем. Объясни клиенту без необходимого образования, что такое гидроудар в отопительной системе. (Без мата)».
В-третьих, обязательно указывайте формат и объем ответа:
«Структурируй / Ответь списком»
«Дай таблицу сравнения»
«Ответь в 3 абзацах»
«Используй примеры»
«Ответь кратко по сути, в 2-3 предложениях»
Помимо этого, ограничивайте и саму область ответа:
- временные рамки, например «по состоянию на 2023 год»
- источники, например «на основе официальной документации такого-то проекта от такого-то года №…»
- аудиторию, например «для 8-х классов общеобразовательной школы».
В ограничениях вы можете использовать самые разные моменты:
«Не используй технический жаргон» или наоборот «используй исключительно научную терминологию» или «перепиши это в публицистической манере повествования».
В-четвертых, разбивайте сложные задачи на шаги.
Плохой запрос: «Напиши бизнес-план кофейни»
Хороший запрос: «Давай составим бизнес-план кофейни пошагово. Начнем с анализа целевой аудитории. Кто типичный клиент кофейни в спальном районе города с населением 500 тыс.»?
Плохой запрос: «Напиши мне полное приложение с авторизацией, базой данных и деплоем»
Хороший запрос: «Давай разработаем приложение пошагово: Опиши архитектуру приложения».
«Опираясь на полученную архитектуру, напиши модель пользователя».
«В рамках нашего приложения, реализуй эндпоинт регистрации»
и т.д.
В-пятых, нужно постараться минимизировать галлюцинации. Как это сделать. Есть легкие пути решения. Есть сложные. Список легких ниже.
- Просите ИИ признавать свое незнание:
«Если ты не уверен в каком-то факте - прямо скажи об этом»
- Просите источники:
«Укажи, на какие факты ты опираешься». Можете попросить дополнительно ссылку на источник, откуда взята данная информация.
- Перепроверяйте:
«Проверь свой ответ на логические противоречия и ошибки»
- Ограничивайте область:
«Отвечай только на основе общеизвестных, проверяемых фактов. Не додумывай»
- Задавайте контрольные вопросы:
«Ты уверен в дате / цифре / имени? Перепроверь»
- Не забывайте включать у ИИ режим интернет-поиска во время беседы! Ему нужно откуда-то брать ответы, которых вы ожидаете. Иначе придется придумывать.
- Техника «цепочки рассуждений». «Объясни пошагово, как ты пришел к этому выводу».
- Фильтруйте «опасные» зоны. Точные цифры и даты всегда должны перепроверяться. Ссылки и URL тоже. Цитаты конкретных людей часто искажает в свою пользу. Также как и цитаты из законов. Юридические и медицинские факты опасная зона по умолчанию. И недавние события, модель может не знать свежих новостей.
А теперь сложный путь решения.
Вместо вопроса «расскажи про…» вы даете свои источники: статью, отчет, новость, внутренний документ, и просите отвечать строго в рамках материала. Это превращает ИИ в аналитика, который работает исключительно по вашей базе. Можно использовать универсальный шаблон, написанный в конце промпта.
Шаблон:
«Используй только предоставленные источники.
Если информации нет или ты не уверен, ответь: «Я не знаю». Не пытайся угадывать.
Для каждого ключевого утверждения добавь метку уверенности: высокая / средняя / низкая.
В конце перечисли: (1) что не нашел в источнике, (2) в чем сомневаешься, (3) какие данные нужны для точного ответа».
Плюсы такого подхода:
Максимально снижает галлюцинации ИИ.
Ответы становятся проверяемыми.
Вы строите личную базу знаний и экономите время на повторных объяснениях.
Минусы:
Нужно заранее собирать и изучать необходимые источники. То есть вы делаете предварительную работу. До того, как дальше подключите ИИ.
Вы всегда уточняете контекст и пользуетесь шаблоном.
И еще один момент. Модели ИИ отличаются друг от друга. У каждой есть свои преимущества в чем-либо и недостатки в другом. Поэтому разумно одну и ту же задачу поручить нескольким моделям, а затем сравнить ответы и оставить только самое удачное и правильное. Более того, вы можете попросить одну модель раскритиковать другую, выявить логические дыры, перечислить упущения, предложить альтернативы. А потом попросить третью собрать финальную версию с учетом критики. Чтобы данный способ не удлинял деятельность и не запутывал вас, пользуйтесь элементарным регламентом.
- Сформулируйте задачу одинаково для всех моделей (один и тот же ввод, одни и те же ограничения).
- Отметьте расхождения и попросите модели объяснить причины расхождений.
- Попросите одну модель выступить критиком: указать ошибки, слабые места, недоказанные тезисы.
- Соберите итоговую версию с обязательной проверкой фактов по источникам.
Чем корректнее ваш запрос, тем правильнее будет ответ. Всегда помните, что ИИ не читает мысли, функция ясновидения и чтения мыслей ему будет добавлена еще не скоро, он просто заполняет пробелы в вашем запросе наиболее вероятным текстом, который ему кажется подходящим и именно так рождаются галлюцинации. Относитесь к ИИ как к феноменально буквальному исполнителю, потому что он сделает ровно то, о чем вы попросили, а не то, что вы имели в виду. Это как в тех самых историях про джиннов и исполнения желаний, ставших анекдотами: «- Я хочу, чтобы у меня всё было!.. – Мужик, у тебя всё было. Исполнено».
ПыСы На первой иллюстрации использована легендарная фраза из к/ф «Белое солнце пустыни». Мемы, до того, как они стали мейнстримом.