Я сегодня понял одну важнейшую вещь при работе с нейросетями.
Назовем это: "Розовый Слон ИИ"
Если вы ведете с ней диалог на любую тему, в моем случае это программирование.
Когда ваш диалог заходит не туда, например ИИ сболтнул очевидную чушь, то считайте этот диалог уже нельзя продолжать ❌ нужно создавать новый
Почему все так?
Нейросеть работает с окном контекста, а окно контекста - это весь ваш диалог. И у нейросетей как будто есть такое же когнитивное искажение, как у нашего мозга:
Частица "НЕ", воспринимается крайне плохо
И вот вы ИИ говорите:
НЕ думай о маленьком розовом слонике и конечно получаете эффект что она только об этом и думает
Просто закрываете этот диалог и начинаете новый, но чтобы снова не писать те же вопросы, просто копируете тот диалог удаляя всю неверную информацию и говорите что-то вроде: "Внимательно изучи этот диалог, как будешь готова, напиши: Я изучила, а далее я тебе буду задавать вопросы"
Только так её можно избавить от этой галлюцинации. Нет никакого смысла говорить ей "Это неверно, ты ошибаешься и т.д." она скажет "да-да" и исправится, но уже в следующем ответе снова будет ловить ту же галлюцинацию из контекстного окна
Такие дела 😊
