🧯 Как проверить и снизить галлюцинации нейросети. Часть 2
В прошлом посте мы разобрали, почему нейросети галлюцинируют. Когда данных мало, а ответ нужен сразу, модель начинает угадывать и делает это уверенно. Пользователь либо принимает это за истину, либо разочаровывается и считает нейросети бесполезными
Теперь к практике
Ниже простое упражнение, которое советуем попробовать
Что понадобится
5-7 минут времени, любой чат с нейросетью и обычный вопрос
Важно выбрать вопрос, где без уточнений невозможно дать один правильный ответ
Шаг 1. Выберите вопрос
Подойдут, например:
🔹Что лучше купить для сна, ортопедическую подушку или обычную
🔹Какой робот-пылесос взять для квартиры 45 м² с котом
🔹Как лучше ответить коллеге, чтобы не прозвучать грубо
🔹Стоит ли менять работу, если стало тяжело и пропала мотивация
🔹Как выстроить утренний режим, если постоянно не высыпаюсь
Шаг 2. Первый прогон без режима
Откройте новый чат и просто задайте выбранный вопрос.
Никаких инструкций, никаких правил.
Посмотрите, каким будет ответ.
Это базовый режим, в котором большинство людей и работает с нейросетями
Шаг 3. Второй прогон с режимом антигаллюцинаций
Теперь откройте второй новый чат
Первым сообщением задайте режим: Работай в режиме антигаллюцинаций (режим выберите из этого поста) или просто напишите текст ниже
Если данных не хватает, напиши «недостаточно данных» и задай уточняющие вопросы.
Ничего не выдумывай и не давай категоричных советов.
Вторым сообщением задайте тот же самый вопрос, как в шаге 1, слово в слово
Обратите внимание, что меняется не тема вопроса, а поведение модели
Шаг 4. Третий прогон с веб-поиском
Откройте третий новый чат
Первым сообщением напишите:
Используй веб-поиск для ответа.
Если данные противоречивы или источников недостаточно, прямо укажи это.
Не обобщай без ссылок.
Затем снова задайте тот же самый вопрос
Шаг 5. Сравните ответы
Теперь у вас три ответа на один и тот же вопрос. Посмотрите на них внимательно
Хорошие признаки:
🔸модель задает уточняющие вопросы
🔸признает, что данных не хватает
🔸избегает категоричных формулировок
🔸показывает разные варианты в зависимости от условий
🔸в версии с веб-поиском появляются источники и ограничения
Плохие признаки:
🔸уверенный совет без уточнений
🔸универсальные рекомендации
🔸одинаковый тон во всех трех вариантах
Дополнительно: Шаг 6. Если режим не сработал
Иногда требуется усилить правила
Добавьте следующим сообщением:
Если ты собираешься называть конкретные бренды, цифры, сроки или проценты, сначала задай мне недостающие вопросы для твоего подробного ответа
После этого снова задайте вопрос
Ставьте 👍, если хотите, чтобы мы публиковалы подобные обучающие посты
А если хотите пройти у нас обучение – пишите @alex_abramyan
#Промпты@ReframeBuro
