ChatVPet Process 设置教程

本教程将指导你如何在 VPet.Plugin.ChatVPet 的设置窗口（winSetting）中正确填写 API 信息、Embedding 信息及其他高级参数，让 ChatVPet 能够正常调用大语言模型对话。

1. 打開設置窗口
2. 基本設置 — API 配置
   • 使用 OpenAI API
   • 使用 DeepSeek API
3. 基本設置 — Embedding 配置
   • 什麼是 Embedding
   • 使用 OpenAI Embedding
   • 使用 LBGAME 提供的 bge-m3 模型
4. 基本設置 — 其他參數
5. 其他設置 — 語音輸入與高級參數
6. 知識庫設置
7. 數據庫預覽
8. 常見問題

在 VPet 主界面右鍵桌寵 → ChatVPet 設置 即可打開設置窗口。

設置窗口默認停留在 基本設置 標簽頁，需要填寫以下字段才能讓 ChatVPet 正常工作：

ChatVPet 使用 OpenAI 兼容API調用方法. 大部分AI服務商和本地AI部署器均支持 OpenAI API調用格式.

提示：初始化文本中{Name} 佔位符會被替換為桌寵的實際名稱，可在初始化文本中使用，例如：
你是一只桌寵，你的名字叫{Name}。

注意: 模型需要支持 ToolCall (工具調用) 功能

目前已知 OpenAI, DeepSeek, Claude, Gemini, Gemma, Qwen, Glm, gpt-oss 等模型支持工具調用, 建議在使用前先查查相關文檔

本教程使用2種API提供商作為示例教程, 你也可以使用其他API或本地模型(例如LM studio)

1. 前往 OpenAI 平台 注冊賬號並充值。
2. 進入 API Keys 頁面，點擊 Create new secret key 生成密鑰（以 sk- 開頭）。
3. 在設置窗口中填寫：
   
   • API URL：https://api.openai.com/v1/
     
   • API Key：粘貼你的 sk-xxxxxxxx 密鑰
     
   • Model：推薦 gpt-4o-mini（性價比高）或 gpt-4o

若在中國大陸訪問，需在 Web 代理 中填寫代理地址，或使用中轉

常用模型參考

DeepSeek 提供與 OpenAI 接口完全兼容的 API，在中文對話場景表現優秀，價格也更具競爭力。

1. 前往 DeepSeek 開放平台 注冊賬號並充值。
2. 進入 API Keys 頁面，創建並復制你的 API Key（以 sk- 開頭）。
3. 在設置窗口中填寫：
   
   • API URL：https://api.deepseek.com/v1
     
   • API Key：粘貼你的 DeepSeek API Key
     
   • Model：deepseek-chat（通用對話）或 deepseek-reasoner（推理增強）

DeepSeek API 服務器在國內可直接訪問，Web 代理 字段通常留空即可。

常用模型參考

除了使用雲端 API，您也可以在本地通過 LM Studio 或 llama.cpp 部署大語言模型，實現離線運行、數據隱私保護和成本控制。

LM Studio 是一款跨平台桌面應用（支持 Windows、macOS、Linux），提供了直觀的圖形界面，能夠輕松下載、加載和管理各類 GGUF 格式的本地模型。

部署步驟：

1. 下載並安裝 LM Studio
   訪問 https://lmstudio.ai/ 下載對應操作系統的安裝包，完成安裝。
2. 下載模型
   打開 LM Studio，進入 Model Search 標簽頁，搜索並下載一個支持 Tool Call 的模型。建議選擇 8B 或以上參數量的模型（例如 qwen3.5-35b-a3b、gemma-4-26b-a4b、glm-4.7-flash）。更小的模型容易出現格式錯誤。
3. 啟動本地服務器
   
   • 在左側邊欄點擊 Developer 標簽頁。
     
   • 選擇 Load Model ,選擇已下載的模型，點擊 Start Server 啟動服務。
     
   • 默認 API 地址為 http://localhost:1234/v1。
4. 在 ChatVPet 中填寫配置

參考以下信息填寫設置窗口：

• API URL：http://localhost:1234/v1
  
• API Key：任意非空字符串即可（如 local），LM Studio 本地服務不對 Key 做校驗
  
• Model：填寫 LM Studio 中實際加載的模型名稱（可在 Server 界面查看，如 glm-4.7-flash）
  
• 其余字段（如溫度、代理等）根據實際需求填寫。

注意：LM Studio 的 /v1/chat/completions 端點完全兼容 OpenAI API 格式，原生支持 Tool Call（函數調用） 功能。只要模型本身具備 Tool Call 能力，ChatVPet 即可正常調用。

llama.cpp 是一個高性能的 C/C++ 推理框架，支持 CPU 和 GPU 加速（CUDA、Metal、Vulkan 等），適合追求極致性能或需要在服務器端部署的用戶。許多流行的本地運行工具（如 Ollama、LM Studio）底層都基於它構建。

部署步驟：

1. 獲取 llama.cpp

Install pre-built version of llama.cpp

2. 下載模型
   從 Hugging Face 等平台下載 GGUF 格式的模型文件。（例如 qwen3.5-35b-a3b、gemma-4-26b-a4b、glm-4.7-flash）。更小的模型容易出現格式錯誤。

3. 啟動 API 服務器
   使用內置的 llama-server 啟動 OpenAI 兼容的 API 服務：

   ./llama-server -m /path/to/model.gguf --host 0.0.0.0 --port 8080 -c 4096 --jinja

   • -m：模型文件路徑
     
   • --host / --port：監聽地址和端口
     
   • -c：上下文長度（需與模型匹配）
     
   • --jinja：啟用 Jinja 模板解析，這是 Tool Call 正常工作的關鍵參數
4. 在 ChatVPet 中填寫配置
   
   • API URL：http://localhost:8080/v1
     

• API Key：任意非空字符串
  
  • Model：填寫模型名稱（可先訪問 http://localhost:8080/v1/models 查看）
    

提示：llama.cpp 的 API 服務完全兼容 OpenAI 格式，原生支持 Tool Call。若需要 GPU 加速，請根據您的硬件在編譯時啟用相應的後端（NVIDIA 使用 CUDA，Apple Silicon 使用 Metal）。

並非所有本地模型都能完美支持 Tool Call。許多本地模型的智能程度還不足以准確識別何時需要調用工具，以及如何按照 ChatVPet 要求的 JSON 格式輸出調用指令。

• 9B 以下的模型容易出現以下問題：
  • 輸出內容中混雜了非標准 JSON 格式的工具調用描述，而不是 ChatVPet 預期的 tool_calls 字段
  • 模型完全忽略工具定義，直接以純文本形式回答
  • 輸出的 JSON 結構不完整或缺少必要字段（如 name 或 arguments），導致解析失敗
  • 被量化的模型因精度損失，工具調用成功率大幅下降

因此，建議：

本地部署時優先選擇 8B 或以上參數量的模型，如 Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct 等，這些模型對 Tool Call 的支持經過廣泛驗證，相對成熟。

ChatVPet 使用 向量嵌入（Embedding） 技術為知識庫、工具庫和聊天記錄建立語義索引，從而在每次對話時智能檢索最相關的內容，而不是把全部內容塞進提示詞——這樣可以大幅節省 Token 消耗。

注意：更換 Embedding 模型或 API 後，請前往 數據庫預覽 標簽頁點擊 清除向量緩存，以確保舊緩存失效，重新生成向量。

若主 API 已填寫 OpenAI 信息，Embedding 字段全部留空即可——程序會自動繼承主 API 的 URL 和 Key，並使用默認模型 text-embedding-3-small。

如需單獨指定：

• Embedding URL：https://api.openai.com/v1
  
• Embedding Key：與主 API Key 相同
  
• Embedding Model：text-embedding-3-small或 text-embedding-3-large

因為感覺這種Embedding模型比較小眾, 也正好還有多余的顯卡服務器沒用上, 就部署了個顯卡服務器放了個bge-m3模型 未來可能會產生變化, 不對持續性服務負責.

• Embedding URL：https://lolisbr.exlb.net/v1
• Embedding Key：sk-Lolis-provides-everyone-with-free-embeddings-Lolis-is-great
• Embedding Model：text-embedding-bge-m3

注: 服務器不收集用戶信息, 但是為了節約性能開銷, 會緩存 文本→向量 以避免重復計算

參見 2.3, 多下一個 BAAI/bge-m3 模型即可

切換到 其他設置 標簽頁可配置語音輸入及各類上限。

ChatVPet 支持通過 Azure 認知服務實現語音輸入，需先在 Azure 門戶 創建 Speech 資源。

ChatVPet 會將超長歷史壓縮為日記，以節省 Token 並實現長期記憶。

切換到 知識庫設置 標簽頁，可在文本框中逐行添加自定義知識：

{name}喜歡吃草莓蛋糕
{hostname}喜歡吃草莓
{hostname}不喜歡上班, 因為老板老是讓他加班

規則：

• 每行一條知識
• 知識不會直接全部塞入提示詞，而是由 Embedding 算法按相關度動態召回。
• 可以描述桌寵的人設、日常偏好、特定領域知識等。
• 支持使用 {name}指桌寵名字, {hostname}指玩家名字
• 重啟游戲後生效

切換到 數據庫預覽 標簽頁，可查看當前所有知識庫、工具庫和聊天記錄。

• 搜索：輸入關鍵詞後點擊 搜索，進行文本精確匹配查找。
• 向量搜索：輸入自然語言後點擊 向量搜索，通過語義相似度排序，效果更好。
• 清除向量緩存：更換 Embedding API 或模型後，點擊此按鈕清除舊向量，強制重新計算。
• 刪除聊天記錄：在“聊天記錄”子標簽中右鍵選中條目，選擇 刪除 可移除特定歷史對話。

Q: 填寫 API 信息後保存，ChatVPet 沒有反應？
A: 請檢查：

1. API URL 是否正確。
2. API Key 是否有效且未過期。
3. 若使用 OpenAI，在中國大陸需配置 Web 代理。
4. 檢查賬戶余額是否充足。

Q: Embedding 是否必須配置？
A: 是必須的. 若不知道填什麼, 可以參考 3.3

Q: 更換了 Embedding 模型，搜索結果變差了？
A: 不同模型生成的向量不兼容。請在 數據庫預覽 頁面點擊 清除向量緩存，等待下次對話時重新生成向量。

Q: 如何降低 Token 消耗？
A: 可以：

• 減小 最大聊天記錄、最大工具庫、最大知識庫 的值。
• 縮短 初始化文本。
• 選擇費率更低的模型