Explorar o código

fix: make sure we have a fresh model/tools on each call

Kujtim Hoxha hai 4 semanas
pai
achega
4cf6af0597
Modificáronse 1 ficheiros con 5 adicións e 0 borrados
  1. 5 0
      internal/agent/coordinator.go

+ 5 - 0
internal/agent/coordinator.go

@@ -117,6 +117,11 @@ func (c *coordinator) Run(ctx context.Context, sessionID string, prompt string,
 		return nil, err
 	}
 
+	// refresh models before each run
+	if err := c.UpdateModels(ctx); err != nil {
+		return nil, fmt.Errorf("failed to update models: %w", err)
+	}
+
 	model := c.currentAgent.Model()
 	maxTokens := model.CatwalkCfg.DefaultMaxTokens
 	if model.ModelCfg.MaxTokens != 0 {