Parcourir la source

feat: update model ratio

CaIon il y a 1 an
Parent
commit
20aaf30785
1 fichiers modifiés avec 3 ajouts et 0 suppressions
  1. 3 0
      common/model-ratio.go

+ 3 - 0
common/model-ratio.go

@@ -224,6 +224,9 @@ func GetCompletionRatio(name string) float64 {
 	if strings.HasPrefix(name, "gemini-") {
 		return 3
 	}
+	if strings.HasPrefix(name, "command") {
+		return 5
+	}
 	switch name {
 	case "llama2-70b-4096":
 		return 0.8 / 0.7