Sfoglia il codice sorgente

feat(更新模型路径): 修改本地GGUF模型路径配置,使用新的HF_CACHE路径以确保模型正确加载

zhch158_admin 1 settimana fa
parent
commit
7ce1273f1d
1 ha cambiato i file con 4 aggiunte e 3 eliminazioni
  1. 4 3
      ocr_tools/daemons/glmocr_local_daemon.sh

+ 4 - 3
ocr_tools/daemons/glmocr_local_daemon.sh

@@ -22,9 +22,10 @@ CONDA_ENV="mineru2"
 PORT="8101"
 HOST="0.0.0.0"
 
-# 本地 GGUF 模型路径
-MODEL_PATH="$HOME/models/glmocr/ggml-org_GLM-OCR-GGUF_GLM-OCR-Q8_0.gguf"
-MMPROJ_PATH="$HOME/models/glmocr/ggml-org_GLM-OCR-GGUF_mmproj-GLM-OCR-Q8_0.gguf"
+# 本地 GGUF 模型路径(llama-server -hf 下载后的实际路径)
+HF_CACHE="$HOME/models/hf_home/hub/models--ggml-org--GLM-OCR-GGUF/snapshots/65a42de1148dbed2297e922b5dbc7d9b70c36578"
+MODEL_PATH="$HF_CACHE/GLM-OCR-Q8_0.gguf"
+MMPROJ_PATH="$HF_CACHE/mmproj-GLM-OCR-Q8_0.gguf"
 
 # llama-server 参数
 CONTEXT_SIZE="16384"         # 上下文长度(需 >= max_tokens,推荐 8192-16384)