Просмотр исходного кода

为Moonshot添加缓存tokens读取逻辑

为Moonshot添加缓存tokens读取逻辑。其与智普V4的逻辑相同,所以共用逻辑
John Chen 1 неделя назад
Родитель
Сommit
dbaba87c39
1 измененных файлов с 1 добавлено и 1 удалено
  1. 1 1
      relay/channel/openai/relay-openai.go

+ 1 - 1
relay/channel/openai/relay-openai.go

@@ -596,7 +596,7 @@ func applyUsagePostProcessing(info *relaycommon.RelayInfo, usage *dto.Usage, res
 		if usage.PromptTokensDetails.CachedTokens == 0 && usage.PromptCacheHitTokens != 0 {
 			usage.PromptTokensDetails.CachedTokens = usage.PromptCacheHitTokens
 		}
-	case constant.ChannelTypeZhipu_v4:
+	case constant.ChannelTypeZhipu_v4, constant.ChannelTypeMoonshot:
 		if usage.PromptTokensDetails.CachedTokens == 0 {
 			if usage.InputTokensDetails != nil && usage.InputTokensDetails.CachedTokens > 0 {
 				usage.PromptTokensDetails.CachedTokens = usage.InputTokensDetails.CachedTokens