[email protected] 1 год назад
Родитель
Сommit
6fa1837c24
1 измененных файлов с 2 добавлено и 0 удалено
  1. 2 0
      controller/relay.go

+ 2 - 0
controller/relay.go

@@ -140,6 +140,8 @@ type GeneralOpenAIRequest struct {
 	Tools            any             `json:"tools,omitempty"`
 	ToolChoice       any             `json:"tool_choice,omitempty"`
 	User             string          `json:"user,omitempty"`
+	LogProbs         bool            `json:"logprobs,omitempty"`
+	TopLogProbs      int             `json:"top_logprobs,omitempty"`
 }
 
 func (r GeneralOpenAIRequest) ParseInput() []string {