СИТУАЦИЯ
Саша попросил ИИ: «Дай 10 пунктов для курсовой по экологии». ИИ знал 8: изучить литературу, выбрать тему, составить план, собрать данные, проанализировать, оформить по ГОСТ, подготовить выводы, проверить на плагиат. Для 10 добавил выдуманные: «составить экологический гороскоп» и «провести ритуал для природы». Саша начал рисовать гороскоп, но понял ошибку. Теперь он просит: «Только реальные пункты!». (эта ситуация была сгенерирована ИИ)
ОТВЕТ
❓️В чём проблема
ИИ настроен таким образом, чтобы максимально чётко выполнять наши запросы, описанные в промпте. Его задача, быть максимально комфортным для нас и максимально полезным, не спорить и выполнять все задачи, которые ему поставлены. Если мы просим указать конкретное число чего-либо, ИИ нам и выдаст это количество пунктов.
Нас, конечно, радует, что ИИ такой услужливый, но т.к. реальность может отличаться от наших запросов, то некоторые пункты в итоге могут быть выдуманы, дабы нам угодить. Т.е. ИИ заделывает пустые промежутки (отсутствующие в реальности) выдуманной информацией. Задача ИИ ответить на наш промпт, а не быть приближенным к реальности.
Если вы просите указать 10 ученых, которые занимались изучением изменения давления в атмосфере, то он вам и выдаст 10 фамилий. А в реальности, их могло быть только 3-е. Поэтому из 10-то фамилий 3 будут реальные, а 7 выдуманные.
⚠️ На что обратить внимание
ИИ ориентируется на формулировку запроса. Его задача дать ответ именно по запросу. Если в запросе или в его форме (формулировке) содержится ошибка, то и ответ будет с ошибками. Все несостыковки ИИ зашлифует выдуманной информацией.
✅️ Что делать
Представьте, что вы общаетесь с человеком, который никогда не будет с вами спорит и у которого просто нет своего мнения. Учитывайте эту особенность, когда ведёте с ним диалог. Ваша задача перепроверять не его, а свои собственные запросы, их формулировки.
⬇️ Пример
«Дай 10 реальных и практичных пунктов для написания курсовой по экологии, без выдуманных или несерьёзных идей».
В запросе можно отметить, что важно не количество, а достоверность. Прописать в промпте как ИИ должен расставлять приоритеты при поиске информации.
#информация #промпт #ошидки #GPT
