vpet:mod:chatvpetprocess

差别

这里会显示出您选择的修订版和当前版本之间的差别。

到此差别页面的链接

两侧同时换到之前的修订记录 前一修订版
后一修订版		 前一修订版
vpet:mod:chatvpetprocess [2026/04/27 18:10] – 有米vpet:mod:chatvpetprocess [2026/05/10 16:34] (当前版本) – 有米
行 38: 行 38:
 | **API URL** | 聊天接口地址，建议以 `/v1` 结尾 | | **API URL** | 聊天接口地址，建议以 `/v1` 结尾 |
 | **API Key** | 用于鉴权的密钥 | | **API Key** | 用于鉴权的密钥 |
-| **Web 代理** | 可选。HTTP/SOCKS 代理地址，国内访问 OpenAI 等限制模型商时使用. 无需可不填 |+| **Web 代理** | 可选。填入 HTTP/SOCKS 代理地址。若在国内直接访问 OpenAI 等服务，请务必填写或使用 API 中转。 |
 | **Model** | 使用的语言模型名称，可下拉选择或手动输入 | | **Model** | 使用的语言模型名称，可下拉选择或手动输入 |
 | **初始化文本** | 系统提示词（System Prompt），不会被遗忘，字越多越贵 | | **初始化文本** | 系统提示词（System Prompt），不会被遗忘，字越多越贵 |
行 145: 行 145:
    使用内置的 `llama-server` 启动 OpenAI 兼容的 API 服务：    使用内置的 `llama-server` 启动 OpenAI 兼容的 API 服务：
        
-   ```bash +   `./llama-server -m /path/to/model.gguf --host 0.0.0.0 --port 8080 -c 4096 --jinja` 
-   ./llama-server -m /path/to/model.gguf \ +    
-                  --host 0.0.0.0 \ +   - `-m`：模型文件路径\\ 
-                  --port 8080 \ +   - `--host` / `--port`：监听地址和端口\\ 
-                  -c 4096 \ +   - `-c`：上下文长度（需与模型匹配）\\
-                  --jinja +
-   ``` +
-   - `-m`：模型文件路径 +
-   - `--host` / `--port`：监听地址和端口 +
-   - `-c`：上下文长度（需与模型匹配）+
    - `--jinja`：**启用 Jinja 模板解析，这是 Tool Call 正常工作的关键参数**    - `--jinja`：**启用 Jinja 模板解析，这是 Tool Call 正常工作的关键参数**
        
  • vpet/mod/chatvpetprocess.1777284600.txt.gz
  • 最后更改: 14天前
  • 由 有米