Răsfoiți Sursa

add base_url=OLLAMA_BASE_URL on modeles

Komla Amuzu 1 lună în urmă
părinte
comite
0f49ef6270
1 a modificat fișierele cu 2 adăugiri și 0 ștergeri
  1. 2 0
      Agents.py

+ 2 - 0
Agents.py

@@ -61,6 +61,7 @@ local_llm = ChatOllama(
 local_llm_fonction = OllamaFunctions(
     model="deepseek-coder-v2:16b-lite-instruct-q4_K_M",
     #model="llama3.1:8b",
+    base_url=OLLAMA_BASE_URL,
     temperature=0,
     format="json",
     num_ctx=4096
@@ -69,6 +70,7 @@ local_llm_fonction = OllamaFunctions(
 
 local_llm_reporter = ChatOllama(
     model="llama3.1:8b",
+    base_url=OLLAMA_BASE_URL,
     temperature=0,
     
 )