账号池与调度
账号池是管理员组织上游账号的主要工具。它不是用户侧分组,而是调度层的账号集合。
账号池字段
| 字段 | 说明 |
|---|---|
| 名称 | 后台识别名称,例如 gpt free、gpt plus、anthropic pro。 |
| 平台 | 账号池内账号的平台。 |
| 状态 | 启用或禁用。禁用池不会参与调度。 |
| 排序 | 同一平台下的池间优先级。 |
| 负载均衡 | 开启后池内账号会忽略固定优先级,尽量均匀分摊请求。 |
| 绑定分组 | 哪些用户分组可以使用这个账号池。 |
| 自动入池规则 | 满足条件的账号自动加入该池。 |
池内排序
池内账号可以设置相对排序。关闭负载均衡时,调度器优先使用排序靠前且可用的账号。
建议:
- 高质量账号放前面。
- 不稳定账号放后面。
- 临时异常账号先禁用或降级排序。
负载均衡
开启负载均衡后,账号池会在可用账号之间分摊请求。适合:
- 多个账号质量接近。
- 希望降低单账号压力。
- 希望减少同一账号连续失败影响。
关闭负载均衡适合:
- 明确有主备账号。
- 需要优先消耗某个账号池。
- 账号质量差异很大。
向下调度
同一账号池内,账号失败后应快速尝试下一个可用账号。一个账号池全部失败后,再进入更低优先级账号池或兜底分组。
建议策略:
- 对 5xx、连接重置、超时等临时错误快速切号。
- 对额度不足、账号封禁、权限不足等确定性错误标记账号不可用。
- 对网络出口异常,优先更换该出口下相关账号的出口。
- 对无可用账号的池,不要反复打同一个失败账号。
自动入池
自动入池规则可按以下条件匹配:
- 名称包含。
- 账号名或身份标识包含。
- 平台。
- 标签,例如
free、plus、pro。 - 认证方式,例如
oauth、apikey、upstream。
规则支持 all 和 any:
all:所有条件都满足才入池。any:满足任一条件即可入池。
网络出口
管理员可以为账号绑定独立网络出口。生产环境建议:
- 新账号登录前先分配并验证出口可用。
- 已绑定出口的账号不要无故重分配。
- 只给缺失出口的账号随机分配可用出口。
- 出口异常时,优先替换受影响账号的出口。
- 遵守目标服务和所在地法律法规要求。