Справочник › ⚙️ Настройки › Генерация
Top P и Top K
На этой странице · 3
🎚 Top P
Кнопка: /settings → «⚙️ Расширенные» → «🧪 Генерация» → «🎚 Top_p». Доступные значения: выкл, 0.85, 0.90, 0.95, 0.97.
Top P — другой способ управлять разнообразием генерации.
Модель оценивает множество возможных продолжений. Top P ограничивает набор вариантов теми, которые вместе набирают указанную долю вероятности.
Упрощённо: меньше Top P — выбор уже и осторожнее; больше Top P — допускается больше менее вероятных вариантов.
Temperature и Top P похожи, но не одинаковы
Обе настройки влияют на разнообразие, поэтому новичку обычно не нужно одновременно активно крутить обе.
Хороший способ эксперимента:
- оставить Top P выключенным;
- подобрать Temperature;
- если этого недостаточно — отдельно попробовать Top P.
Иначе вы меняете сразу две связанные переменные и потом имеете интеллектуальную задачу уровня NASA: какая именно из них всё испортила.
Что означает «Top P: выкл»
Это не означает, что модель перестаёт использовать nucleus sampling.
Это означает, что Limerence не навязывает своё значение Top P и оставляет соответствующее поведение модели или провайдеру.
То же правило действует для выключенных Presence и Frequency.
🎚 Top K
Top K — самый простой способ ограничить выбор: на каждом шаге модель выбирает следующее слово только из K самых вероятных вариантов, остальные отбрасываются. Чем меньше K, тем предсказуемее текст; чем больше — тем разнообразнее.
В Кабинете Top K — число от 1 до 500. Пустое поле — выключено: Limerence ничего не навязывает. В боте (/settings) Top K не настраивается — только в Кабинете или через пресет.
Поддержка Top K есть не у каждой модели и провайдера: если провайдер параметр не принимает, он просто игнорируется.
🎚 Top P и Top K в Кабинете
В Кабинете есть отдельный блок «Тонкие настройки сэмплера».
Здесь можно вручную задать Top P (больше 0 и до 1) и Top K (от 1 до 500).
Если оставить поле пустым, Limerence не навязывает собственное значение этого параметра.
Эти настройки предназначены скорее для опытных пользователей и особенно полезны при работе с готовыми SillyTavern-пресетами или при самостоятельном тюнинге конкретной модели.
Поддержка Top P и Top K зависит от самой модели и API-провайдера.
Что происходит, если активен пресет
Если в истории включён генерационный пресет, часть ручных параметров в Кабинете становится недоступна.
Вы увидите подсказку:
Сэмплеры задаёт активный пресет. Сними пресет, чтобы редактировать.
Это сделано специально.
Если одновременно дать:
- одному preset JSON свои сэмплеры;
- пользователю другие значения;
- ещё одному экрану третьи;
выяснение того, кто победил, быстро превращается в богословский спор.
Пресет забирает температуру, длины ответа и тонкие настройки сэмплера. «Память диалога» остаётся доступной в любом случае.
Если хотите снова управлять этими параметрами вручную — сначала снимите активный пресет.