Quellcode durchsuchen

为Moonshot添加缓存tokens读取逻辑

为Moonshot添加缓存tokens读取逻辑。其与智普V4的逻辑相同,所以共用逻辑
John Chen vor 5 Tagen
Ursprung
Commit
dbaba87c39
1 geänderte Dateien mit 1 neuen und 1 gelöschten Zeilen
  1. 1 1
      relay/channel/openai/relay-openai.go

+ 1 - 1
relay/channel/openai/relay-openai.go

@@ -596,7 +596,7 @@ func applyUsagePostProcessing(info *relaycommon.RelayInfo, usage *dto.Usage, res
 		if usage.PromptTokensDetails.CachedTokens == 0 && usage.PromptCacheHitTokens != 0 {
 			usage.PromptTokensDetails.CachedTokens = usage.PromptCacheHitTokens
 		}
-	case constant.ChannelTypeZhipu_v4:
+	case constant.ChannelTypeZhipu_v4, constant.ChannelTypeMoonshot:
 		if usage.PromptTokensDetails.CachedTokens == 0 {
 			if usage.InputTokensDetails != nil && usage.InputTokensDetails.CachedTokens > 0 {
 				usage.PromptTokensDetails.CachedTokens = usage.InputTokensDetails.CachedTokens