57 подписчиков
🤖 Продолжаем изучать наших ботов
Строка 5 таблицы: "Температура генерации"
🧠 Как работают нейросети семейства GPT в генерации текста?
Это происходит довольно своеобразно. Допустим, ваш первоначальный запрос: "а скажи ка мне бот, как мне заработать много денег в интернете?" Нейросеть подбирает несколько слов-кандидатов для продолжения и присваивает им рейтинг, например:
Зарабатывать - 0.7
Для - 0.2
Чтобы - 0.1
🔄 Нейросеть выбирает одно слово, добавляет его к запросу и повторяет процесс, пока не сформируется полноценный ответ.
🌡 Что такое "Температура генерации"?
Этот параметр определяет вероятность выбора слов с более низким рейтингом. Чем выше температура:
Выше вероятность выбора слов с низким рейтингом.
0 - выбираются только слова с высшим рейтингом.
2 - часто выбираются слова с низким рейтингом.
🔍 Для строгих текстов, например, программного кода, температура должна быть 0. Для художественных текстов, таких как посты в телеграм-канале, подходят значения от 0.4 до 0.8. У Нейрокота температура 0.4, что делает его ответы живыми. У Маркуса температура настраивается в диапазоне от 0 до 1.0.
Предыдущие параметры:
1 минута
21 марта 2024