Explorar el Código

feat: format o1 model max tokens param

[email protected] hace 1 año
padre
commit
13c993d87e
Se han modificado 1 ficheros con 6 adiciones y 0 borrados
  1. 6 0
      relay/channel/openai/adaptor.go

+ 6 - 0
relay/channel/openai/adaptor.go

@@ -78,6 +78,12 @@ func (a *Adaptor) ConvertRequest(c *gin.Context, info *relaycommon.RelayInfo, re
 	if info.ChannelType != common.ChannelTypeOpenAI {
 		request.StreamOptions = nil
 	}
+	if strings.HasPrefix(request.Model, "o1-") {
+		if request.MaxCompletionTokens == 0 && request.MaxTokens != 0 {
+			request.MaxCompletionTokens = request.MaxTokens
+			request.MaxTokens = 0
+		}
+	}
 	return request, nil
 }