瀏覽代碼

add base_url=OLLAMA_BASE_URL on modeles

Komla Amuzu 1 月之前
父節點
當前提交
0f49ef6270
共有 1 個文件被更改,包括 2 次插入0 次删除
  1. 2 0
      Agents.py

+ 2 - 0
Agents.py

@@ -61,6 +61,7 @@ local_llm = ChatOllama(
 local_llm_fonction = OllamaFunctions(
     model="deepseek-coder-v2:16b-lite-instruct-q4_K_M",
     #model="llama3.1:8b",
+    base_url=OLLAMA_BASE_URL,
     temperature=0,
     format="json",
     num_ctx=4096
@@ -69,6 +70,7 @@ local_llm_fonction = OllamaFunctions(
 
 local_llm_reporter = ChatOllama(
     model="llama3.1:8b",
+    base_url=OLLAMA_BASE_URL,
     temperature=0,
     
 )