Przeglądaj źródła

integrate cache read/write data

Dax Raad 8 miesięcy temu
rodzic
commit
b470466e30

+ 2 - 2
packages/opencode/src/provider/models.ts

@@ -17,8 +17,8 @@ export namespace ModelsDev {
       cost: z.object({
         input: z.number(),
         output: z.number(),
-        inputCached: z.number(),
-        outputCached: z.number(),
+        cache_read: z.number().optional(),
+        cache_write: z.number().optional(),
       }),
       limit: z.object({
         context: z.number(),

+ 10 - 0
packages/opencode/src/session/index.ts

@@ -759,6 +759,16 @@ export namespace Session {
       cost: new Decimal(0)
         .add(new Decimal(tokens.input).mul(model.cost.input).div(1_000_000))
         .add(new Decimal(tokens.output).mul(model.cost.output).div(1_000_000))
+        .add(
+          new Decimal(tokens.cache.read)
+            .mul(model.cost.cache_read ?? 0)
+            .div(1_000_000),
+        )
+        .add(
+          new Decimal(tokens.cache.write)
+            .mul(model.cost.cache_write ?? 0)
+            .div(1_000_000),
+        )
         .toNumber(),
       tokens,
     }