跳转至

New-API 多模型路由与计费策略

目标是“一套 OpenAI 兼容入口,多条已授权上游渠道”。模型名、上游价格和 New-API 页面字段会变化;以下配置以 v1.0.0-rc.49 源码为基线,上线前必须在所选版本的控制台复核。

1. 对外模型目录

建议同时使用清晰的中性别名和兼容性别名,避免把国产模型冒充为 OpenAI 模型。

对外请求模型 定位 主渠道 备用渠道 建议零售价(示例)
br-economy / gpt-4o-mini 高并发、分类、摘要、普通对话 DeepSeek deepseek-chat Qwen qwen-plus 输入 US$0.40/M,输出 US$1.60/M
br-pt / gpt-4o 葡语写作、客服、本地化 Qwen qwen-max GLM-5 输入 US$3.00/M,输出 US$12.00/M
br-reasoning 高客单价复杂推理、代码、长上下文 GLM-5 或经验证的 Kimi 复杂模型 DeepSeek deepseek-reasoner 输入 US$6.00/M,输出 US$24.00/M

合规红线: gpt-4o-mini、gpt-4o 在这里只是兼容性别名,并不代表请求由 OpenAI 提供。定价页和服务条款必须明确披露真实路由策略;更推荐客户直接使用 br-* 名称。

2. 配置上游渠道

进入 管理后台 → 渠道 → 添加渠道,每家至少创建一条渠道。API Key 只从官方平台获取,确认允许商业分发/转售,不使用来源不明的共享 Key。

渠道 类型/Base URL 渠道中“模型”字段 模型重定向 JSON
deepseek-economy DeepSeek;https://api.deepseek.com/v1 br-economy,gpt-4o-mini,br-reasoning 见下
qwen-ptbr OpenAI 兼容;DashScope 兼容端点 br-pt,gpt-4o,br-economy,gpt-4o-mini 见下
glm-premium OpenAI 兼容;智谱官方端点 br-pt,gpt-4o,br-reasoning 见下
kimi-premium OpenAI 兼容;Moonshot 官方端点 br-reasoning 将 br-reasoning 映射到账户实际可用的 Kimi 模型

示例(模型名必须按上游控制台实际可用值修改):

// deepseek-economy
{
  "br-economy": "deepseek-chat",
  "gpt-4o-mini": "deepseek-chat",
  "br-reasoning": "deepseek-reasoner"
}
// qwen-ptbr
{
  "br-pt": "qwen-max",
  "gpt-4o": "qwen-max",
  "br-economy": "qwen-plus",
  "gpt-4o-mini": "qwen-plus"
}
// glm-premium
{
  "br-pt": "glm-5",
  "gpt-4o": "glm-5",
  "br-reasoning": "glm-5"
}

New-API 的模型映射是 JSON 对象,不支持注释;粘贴时删除上述注释。每个渠道只声明它真正能处理的公开模型,避免把请求映射到不存在的上游模型。

优先级与权重

  • 主备:主渠道优先级 100,备用渠道 50;在运营设置中把重试次数设为 2。
  • 同层分流:同优先级渠道按权重随机。例如 DeepSeek 权重 90、Qwen 权重 10,用于灰度,而不是让 10% 流量“故障转移”。
  • 分组隔离:建立 default、premium 分组;高价令牌只允许使用 premium,防止低价令牌消耗高成本渠道。
  • 开启渠道测试、失败告警与有条件的自动禁用。自动禁用后要有人工恢复和复盘流程,不能只依赖自动化。

能力边界: New-API 原生提供模型映射、优先级、权重和失败重试,不会根据一段提示词的语种或复杂度自动判断“该用哪家”。复杂推理请使用独立模型 br-reasoning,或在上层应用做显式规则路由;不要把负载均衡宣传成内容感知智能路由。

3. 倍率与加价计算

New-API 默认 1 USD = 500,000 quota。按 token 计费时:

quota = (输入 tokens + 输出 tokens × CompletionRatio) × ModelRatio × GroupRatio
ModelRatio = 目标输入售价(USD / 1M tokens)÷ 2
CompletionRatio = 目标输出售价 ÷ 目标输入售价

在 系统设置 → 倍率设置 中,对公开模型名及其所有别名都配置倍率,不要只配置上游真实模型名。

公开模型 ModelRatio CompletionRatio GroupRatio(default)
br-economy、gpt-4o-mini 0.20 4.0 1.0
br-pt、gpt-4o 1.50 4.0 1.0
br-reasoning 3.00 4.0 1.0

这些价格只是演示。真实最低售价应由下式反推:

单笔净收入 = BRL 实收 − Stripe/Pix 费 − IOF/税费 − 汇兑损失 − 退款拒付准备
单位贡献毛利 = 对外 token 收入 − 上游 token 成本 − 单请求基础设施分摊

上线红线:按最近 7 天真实输入/输出比计算贡献毛利;经济款建议压力测试至少覆盖上游成本、支付费、税费和 20% 安全余量。高推理款不能只按输入价格加价,长输出和长上下文会显著抬升成本。

4. 验收用例

  1. 分别为四个公开名称创建最小额度测试令牌,调用 /v1/models 确认可见性。
  2. 对 br-economy、br-pt、br-reasoning 各跑一次流式与非流式请求。
  3. 在日志中核对公开模型、实际渠道、上游模型、输入/输出 tokens 和 quota。
  4. 临时禁用主渠道,确认备用渠道接管;恢复主渠道并检查告警。
  5. 使用葡语客服、巴西法律摘要、代码调试三组固定数据集做质量回归;记录准确率、延迟和成本,不以供应商宣传代替测试。
curl -fsS https://api.example.com.br/v1/chat/completions \
  -H "Authorization: Bearer sk-user-token" \
  -H "Content-Type: application/json" \
  -d '{"model":"br-pt","messages":[{"role":"user","content":"Responda em português do Brasil."}],"stream":false}'

5. 运营节奏

  • 每日:渠道失败率、P95 延迟、余额、单用户异常消耗。
  • 每周:按模型计算收入/上游成本/退款,调整权重而非贸然改价。
  • 每月:重新核对上游模型名称、商业条款、数据跨境条款和汇率;版本升级前备份 PostgreSQL。