Кап канона

📏 Кап канона

Это уже очень продвинутая настройка.

Доступные значения: выкл (полный канон), 4000, 6000, 8000, 12000, 16000 токенов.

Кап канона ограничивает размер собранного блока справочной информации, который Limerence передаёт модели на определённом поисковом пути.

Что такое канон в этом контексте

Во время сложного поиска Limerence может собрать довольно большой набор найденных материалов: релевантные сведения, сцены, факты, канонический контекст.

Кап говорит: «для этой части запроса используй не больше примерно N токенов».

При нехватке места более приоритетный материал сохраняется, менее важный хвост отбрасывается.

Кап канона не ограничивает весь контекст

Например, «Кап канона: 6000» не означает, что весь запрос теперь максимум 6000 токенов.

Он ограничивает только соответствующий блок канона.

Недавняя история, память, промпт и остальные части контекста существуют отдельно.

Зачем вообще уменьшать канон

Главная причина — размер запроса.

Если сложная история собирает огромное количество справочного материала, можно ограничить его, чтобы:

• уменьшить расход входных токенов;
• не перегружать модель лишней информацией;
• оставить только наиболее приоритетный канон.

Обратная сторона очевидна: чем сильнее вы режете канон, тем выше шанс, что полезная менее приоритетная информация не попадёт в конкретный ход.

Поэтому эту настройку лучше менять, когда вы понимаете, зачем это делаете.

Важно: кап работает не во всех режимах поиска

Он относится к режиму, в котором поиск по материалам идёт в два этапа: сначала собираются все подходящие кандидаты, затем из них отбираются самые важные.

Если для вашей истории этот режим не используется, Limerence предупредит, что выбранный кап сейчас фактически не действует.

Так что это не секретный ползунок «улучшить память».

---