Răsfoiți Sursa

disable autocompact if context is 0

Dax Raad 5 luni în urmă
părinte
comite
a00b49d65b
1 a modificat fișierele cu 3 adăugiri și 1 ștergeri
  1. 3 1
      packages/opencode/src/session/compaction.ts

+ 3 - 1
packages/opencode/src/session/compaction.ts

@@ -24,9 +24,11 @@ export namespace SessionCompaction {
 
 
   export function isOverflow(input: { tokens: MessageV2.Assistant["tokens"]; model: ModelsDev.Model }) {
   export function isOverflow(input: { tokens: MessageV2.Assistant["tokens"]; model: ModelsDev.Model }) {
     if (Flag.OPENCODE_DISABLE_AUTOCOMPACT) return false
     if (Flag.OPENCODE_DISABLE_AUTOCOMPACT) return false
+    const context = input.model.limit.context
+    if (context === 0) return false
     const count = input.tokens.input + input.tokens.cache.read + input.tokens.output
     const count = input.tokens.input + input.tokens.cache.read + input.tokens.output
     const output = Math.min(input.model.limit.output, SessionPrompt.OUTPUT_TOKEN_MAX) || SessionPrompt.OUTPUT_TOKEN_MAX
     const output = Math.min(input.model.limit.output, SessionPrompt.OUTPUT_TOKEN_MAX) || SessionPrompt.OUTPUT_TOKEN_MAX
-    const usable = input.model.limit.context - output
+    const usable = context - output
     return count > usable
     return count > usable
   }
   }