New-API 多模型路由与计费策略¶
目标是“一套 OpenAI 兼容入口,多条已授权上游渠道”。模型名、上游价格和 New-API 页面字段会变化;以下配置以
v1.0.0-rc.49源码为基线,上线前必须在所选版本的控制台复核。
1. 对外模型目录¶
建议同时使用清晰的中性别名和兼容性别名,避免把国产模型冒充为 OpenAI 模型。
| 对外请求模型 | 定位 | 主渠道 | 备用渠道 | 建议零售价(示例) |
|---|---|---|---|---|
br-economy / gpt-4o-mini |
高并发、分类、摘要、普通对话 | DeepSeek deepseek-chat |
Qwen qwen-plus |
输入 US$0.40/M,输出 US$1.60/M |
br-pt / gpt-4o |
葡语写作、客服、本地化 | Qwen qwen-max |
GLM-5 | 输入 US$3.00/M,输出 US$12.00/M |
br-reasoning |
高客单价复杂推理、代码、长上下文 | GLM-5 或经验证的 Kimi 复杂模型 | DeepSeek deepseek-reasoner |
输入 US$6.00/M,输出 US$24.00/M |
合规红线: gpt-4o-mini、gpt-4o 在这里只是兼容性别名,并不代表请求由 OpenAI 提供。定价页和服务条款必须明确披露真实路由策略;更推荐客户直接使用 br-* 名称。
2. 配置上游渠道¶
进入 管理后台 → 渠道 → 添加渠道,每家至少创建一条渠道。API Key 只从官方平台获取,确认允许商业分发/转售,不使用来源不明的共享 Key。
| 渠道 | 类型/Base URL | 渠道中“模型”字段 | 模型重定向 JSON |
|---|---|---|---|
deepseek-economy |
DeepSeek;https://api.deepseek.com/v1 |
br-economy,gpt-4o-mini,br-reasoning |
见下 |
qwen-ptbr |
OpenAI 兼容;DashScope 兼容端点 | br-pt,gpt-4o,br-economy,gpt-4o-mini |
见下 |
glm-premium |
OpenAI 兼容;智谱官方端点 | br-pt,gpt-4o,br-reasoning |
见下 |
kimi-premium |
OpenAI 兼容;Moonshot 官方端点 | br-reasoning |
将 br-reasoning 映射到账户实际可用的 Kimi 模型 |
示例(模型名必须按上游控制台实际可用值修改):
// deepseek-economy
{
"br-economy": "deepseek-chat",
"gpt-4o-mini": "deepseek-chat",
"br-reasoning": "deepseek-reasoner"
}
// qwen-ptbr
{
"br-pt": "qwen-max",
"gpt-4o": "qwen-max",
"br-economy": "qwen-plus",
"gpt-4o-mini": "qwen-plus"
}
// glm-premium
{
"br-pt": "glm-5",
"gpt-4o": "glm-5",
"br-reasoning": "glm-5"
}
New-API 的模型映射是 JSON 对象,不支持注释;粘贴时删除上述注释。每个渠道只声明它真正能处理的公开模型,避免把请求映射到不存在的上游模型。
优先级与权重¶
- 主备:主渠道优先级
100,备用渠道50;在运营设置中把重试次数设为2。 - 同层分流:同优先级渠道按权重随机。例如 DeepSeek 权重
90、Qwen 权重10,用于灰度,而不是让 10% 流量“故障转移”。 - 分组隔离:建立
default、premium分组;高价令牌只允许使用premium,防止低价令牌消耗高成本渠道。 - 开启渠道测试、失败告警与有条件的自动禁用。自动禁用后要有人工恢复和复盘流程,不能只依赖自动化。
能力边界: New-API 原生提供模型映射、优先级、权重和失败重试,不会根据一段提示词的语种或复杂度自动判断“该用哪家”。复杂推理请使用独立模型 br-reasoning,或在上层应用做显式规则路由;不要把负载均衡宣传成内容感知智能路由。
3. 倍率与加价计算¶
New-API 默认 1 USD = 500,000 quota。按 token 计费时:
quota = (输入 tokens + 输出 tokens × CompletionRatio) × ModelRatio × GroupRatio
ModelRatio = 目标输入售价(USD / 1M tokens)÷ 2
CompletionRatio = 目标输出售价 ÷ 目标输入售价
在 系统设置 → 倍率设置 中,对公开模型名及其所有别名都配置倍率,不要只配置上游真实模型名。
| 公开模型 | ModelRatio | CompletionRatio | GroupRatio(default) |
|---|---|---|---|
br-economy、gpt-4o-mini |
0.20 | 4.0 | 1.0 |
br-pt、gpt-4o |
1.50 | 4.0 | 1.0 |
br-reasoning |
3.00 | 4.0 | 1.0 |
这些价格只是演示。真实最低售价应由下式反推:
单笔净收入 = BRL 实收 − Stripe/Pix 费 − IOF/税费 − 汇兑损失 − 退款拒付准备
单位贡献毛利 = 对外 token 收入 − 上游 token 成本 − 单请求基础设施分摊
上线红线:按最近 7 天真实输入/输出比计算贡献毛利;经济款建议压力测试至少覆盖上游成本、支付费、税费和 20% 安全余量。高推理款不能只按输入价格加价,长输出和长上下文会显著抬升成本。
4. 验收用例¶
- 分别为四个公开名称创建最小额度测试令牌,调用
/v1/models确认可见性。 - 对
br-economy、br-pt、br-reasoning各跑一次流式与非流式请求。 - 在日志中核对公开模型、实际渠道、上游模型、输入/输出 tokens 和 quota。
- 临时禁用主渠道,确认备用渠道接管;恢复主渠道并检查告警。
- 使用葡语客服、巴西法律摘要、代码调试三组固定数据集做质量回归;记录准确率、延迟和成本,不以供应商宣传代替测试。
curl -fsS https://api.example.com.br/v1/chat/completions \
-H "Authorization: Bearer sk-user-token" \
-H "Content-Type: application/json" \
-d '{"model":"br-pt","messages":[{"role":"user","content":"Responda em português do Brasil."}],"stream":false}'
5. 运营节奏¶
- 每日:渠道失败率、P95 延迟、余额、单用户异常消耗。
- 每周:按模型计算收入/上游成本/退款,调整权重而非贸然改价。
- 每月:重新核对上游模型名称、商业条款、数据跨境条款和汇率;版本升级前备份 PostgreSQL。