Quellcode durchsuchen

Merge branch 'pool_kb_article_tag' into debug

kobe6258 vor 4 Tagen
Ursprung
Commit
dd0d57f9b7
1 geänderte Dateien mit 1 neuen und 1 gelöschten Zeilen
  1. 1 1
      utils/llm/eta_llm/eta_llm_client.go

+ 1 - 1
utils/llm/eta_llm/eta_llm_client.go

@@ -133,7 +133,7 @@ func (ds *ETALLMClient) CompletionChat(query string, messages []json.RawMessage)
 		TopK:           3,
 		ScoreThreshold: 0.5,
 		Stream:         true,
-		Model:          "qwq:32b",
+		Model:           ds.LlmModel,
 		Temperature:    0.7,
 		MaxTokens:      0,
 		PromptName:     DEFALUT_PROMPT_NAME,