mirror of
https://github.com/zhayujie/chatgpt-on-wechat.git
synced 2026-06-02 00:57:41 +08:00
63 lines
1.7 KiB
Plaintext
63 lines
1.7 KiB
Plaintext
---
|
||
title: 自定义
|
||
description: 自定义厂商配置，适用于第三方 API 代理和本地模型
|
||
---
|
||
|
||
适用于通过 OpenAI 兼容协议接入的第三方模型服务或本地部署的模型，例如：
|
||
|
||
- **第三方 API 代理**：使用统一的 API Base 调用多种模型
|
||
- **本地模型**：通过 Ollama、vLLM、LocalAI 等工具在本地部署的模型
|
||
- **私有化部署**：企业内部部署的模型服务
|
||
|
||
<Note>
|
||
与 `openai` 厂商的区别：选择自定义厂商后，通过 `/config model` 切换模型时，不会自动切换厂商类型，始终使用自定义的 API 地址。
|
||
</Note>
|
||
|
||
## 配置方式
|
||
|
||
### 第三方 API 代理
|
||
|
||
```json
|
||
{
|
||
"bot_type": "custom",
|
||
"model": "",
|
||
"custom_api_key": "YOUR_API_KEY",
|
||
"custom_api_base": "https://{your-proxy.com}/v1"
|
||
}
|
||
```
|
||
|
||
| 参数 | 说明 |
|
||
| --- | --- |
|
||
| `bot_type` | 必须设为 `custom` |
|
||
| `model` | 模型名称，填写代理服务支持的任意模型名 |
|
||
| `custom_api_key` | API 密钥，由代理服务提供 |
|
||
| `custom_api_base` | API 地址，由代理服务提供，需兼容 OpenAI 协议 |
|
||
|
||
### 本地模型
|
||
|
||
本地模型通常不需要 API Key，只需填写 API Base 即可：
|
||
|
||
```json
|
||
{
|
||
"bot_type": "custom",
|
||
"model": "qwen3.5:27b",
|
||
"custom_api_base": "http://localhost:11434/v1"
|
||
}
|
||
```
|
||
|
||
常见的本地部署工具及默认地址：
|
||
|
||
| 工具 | 默认 API Base |
|
||
| --- | --- |
|
||
| [Ollama](https://ollama.com) | `http://localhost:11434/v1` |
|
||
| [vLLM](https://docs.vllm.ai) | `http://localhost:8000/v1` |
|
||
| [LocalAI](https://localai.io) | `http://localhost:8080/v1` |
|
||
|
||
## 切换模型
|
||
|
||
自定义厂商下切换模型时，只会修改 `model`，不会改变 `bot_type` 和 API 地址：
|
||
|
||
```
|
||
/config model qwen3.5:27b
|
||
```
|